Sie sind hier

Turing Test für soziale Netzwerke erforderlich

Ich befürchte, sehr bald schon werden Turing Tests wichtiger als jeder Anti-SPAM-Captcha.
Wir Nutzer, werden uns auch selbst schützen müssen, vor Diskussionen mit AI.
Ich bin mir sicher, in den nächsten 5 Jahren werden die ersten Diskussionen in Foren durch Ai-Bots geführt,
ohne Wissen der menschlichen Nutzer. Eventuell ist dies derzeit schon der Fall.

In den Netzwerken wird künstliche Intelligenz eingesetzt werden um,

- Produkte anzupreisen
- Rezensionen zu verfassen
- Rezensionen zu bewerten
- Rezensionen zu kritisieren

- Informationen zu verbreiten, Antworten auf reale Fragen
- Informationen zu generieren, Fragen an reale Nutzer
- Informationen zu prüfen, Recherche

- Kaufanreize  zu schaffen, durch dezentes Productplacemnet
- politische Einflussnahme auszuüben
- Meinungsbildung zu beeinflussen
- wirtschaftliche Faktoren zu steuern

- gegenerische/konkurierende Bots zu enttarnen
 

Unsere Gesellschaft, die derzeit davon ausgeht,  im Internet mit Menschen zu kommunizieren, wird versuchen sich davor zu schützen.
Aber selbst Videochats können mit heutigen technischen Möglichkeiten gefaked werden, inklusive realistischer Sprachsynthese.

Ich vermute sehr stark, dass wir nur durch empfehlung und einem "Real"-Bürgen Konzept dem entgehen können.

Man stelle sich nur einmal vor, ein realer Mensch registriert sich in einem Netzwerk, im Glauben es würden sich dort reale Menschen über ein Thema unterhalten. Tatsächlich aber wären alle Beiträge, ausnahmslos nur durch "KI-Bots" erstellt. Technisch unversierte Menschen würden glauben, dies wäre viel Aufwand, das würde doch niemand tun.

Vorstellbar aus meiner Sicht ist aber, dass eine überdurchschnittlich gute KI, in einer Cloud, mit Millionen Menschen gleichzeitig Chatten oder Forenbeiträge generieren könnte.

Bei einer weiter entwickelten KI, die sich vielleicht auch selbst, über das Grundwissen menschlicher Psychologie hinaus, wissen antrainieren kann, wäre tatsächlich schlimmeres zu befürchten. Diese KI könnte Menschen zusammenbringen oder auch gegeneinander aufbringen. Denn sie würde, anders als wir Menschen, alle Informationen im Bruchteil einer Sekunde nutzen können, zu jedem Menschen und vielen Daten die öffentlich einsehbar sind.
Dies entspräche, so denke ich, nur annähernd der Überlegenheit eines hoch gebildeten Psychoanalytikers, der einen Internetanschluss nutzt, gegenüber einem 8 jährigen Kind. Der Vorteil der KI wäre weitaus fataler.

Diese Dystopie lässt sich leicht ausweiten. Ich denke jedoch, auch damit wird die Menschheit lernen umzugehen.
Mehr Sorge bereitet mir die Zeit des Übergangs. Wenn die ersten Marketingfirmen anfangen KI zu missbrauchen. Der daraus resultierende Vertrauensverlust in die Kommunikation mit anderen Menschen im Intenet wird hässlich werden.