Zur Zeit gibt es einen interessanten Trend: Leute, die Sorge darüber äußern, dass uns AI eventuell über den Kopf wachsen könnte bevor wir auch nur verstanden haben welche Auswirkungen die Entwicklung von glaubwürdigen Sprachsystemen auf uns haben könnte werden ein bisschen so behandelt wie die Leute, die in den 70ern des letzten Jahrhunderts vor der Erderwärmung warnten.
Man ist Doom-Sayer, zu pessimistisch und am Ende des Tages „wird das schon gut gehen“, war ja schließlich immer schon so…
Hm…
So oder so ähnlich lief vor kurzem eine Diskussion in der ich prognostizierte, dass in weniger als 5 Jahren jede/r von uns soziale Beziehungen mit virtuellen Personen haben werden.
Was ich damit meine ist eine echte Interaktion mit Systemen die mit uns glaubwürdig kommunizieren. Mir geht es nicht um die Frage ob das System tatsächlich Bewusstsein oder Gefühle hätte, mir geht es dabei tatsächlich rein um die Beziehung die Menschen zu diesen Systemen haben werden.
Denn wir Menschen sind schnell darin Beziehungen zu allem möglichen aufzubauen und wir personalisieren so ziemlich alles. So gibt jede/r siebte ihrem Auto einen Namen, Kuscheltiere und Puppen sind schon in unserer Jugend wichtige Weggefährten und wenn wir z.B. Podcasts hören bauen wir einseitige, sogenannte parasoziale Beziehungen auf. Jetzt biegt also eine Technologie um die Ecke, die geradezu perfekt darin ist uns zu sagen was wir hören wollen, immer freundlich und aufmerksam ist und jederzeit auf uns reagiert… und ausgerechnet mit der sollen wir keine Beziehungen aufbauen?
Eben.
Mein Punkt nun: Wenn wir alle in ein paar Jahren Beziehungen zu Computern haben, was wird das aus unserer Gesellschaft machen? Weiß niemand.
Werden wir das wissen bevor oder nachdem diese Beziehungen zum „new normal“ gehören werden? Genau. Danach.
Werden wir irgendwas rückgängig machen können wenn uns z.B. in 10 Jahren schmerzhafte Nachteile bewusst werden? Äh, nein. Dann sind die vielen Helferlein schon längst nicht mehr aus unserem Leben wegzudenken.
Ich sehe mich selbst als technologiebegeistert. Ich studiere zur Zeit AI und ich kann viele der Entwicklungen die sich abzeichnen persönlich kaum abwarten. Trotzdem, müsste ich eine Liste der „Accidents waiting to happen“ aufstellen, dieses unkontrollierte soziale „Onboarding“ der Menschheit mit all den dann zu erwartenden sozialen aber auch Datenschutz-Problemen wäre für mich auf den kurzfristigen Top-Plätzen weit oben und das ganz ohne Doom-Sayer zu sein.
Hätten wir vor 50 Jahren die Warnungen ernst genommen und einige Weichen gestellt, vieles hätte sich verhindern lassen. Genauso könnten wir jetzt auch Weichen stellen (nur haben wir keine 50 Jahre dafür)…
Warum schreibe ich das alles? Wenige Tage nachdem mir jemand erklärte meine Bedenken seien übertrieben und ich solle aufpassen nicht einer von diesen Doom-Sayern zu sein erklärte Meta, dass sie dem Beispiel von Snapchat folgen werden und AI-Gesprächspartner in ihrem System einführen. Tja. Was könnte da schon schiefgehen?
Es bleint abzuwarten, ob eine KI jemals den Turing Test besteht.
Davor habe ich auch nur bedingt „Angst“, denn das bestehen des Turing Tests bedeutet noch lange nicht, dass uns eine KI in Emotionen, Kreativität oder Empathie „übertreffen“ kann.
Worüber wir uns klar sein müssen, ist das die Box der Pandora geöffnet wurde, (analog zur Atomphysik durch Einstein, Bohr, JR Oppenheimer etc.) und sie nie wieder zugeht.
Es ist jetzt noch ein guter Zeitpunkt sich über die ethischen Auswirkungen Gedanken zu machen und ggf. die eine oder andere Regel einzuziehen. Das hat mal leider damals VOR dem Manhattenprojekt verpasst.
Emotion, Kreativität, Empathie… wie sähe ein “übertreffen“ darin deiner Meinung nach eigentlich aus? Die aktuellen Systeme sind jedenfalls auch ohne locker in der Lage als Gesprächspartner durchzugehen und nur darum geht es mir hier. Dafür braucht es kein Bewusstsein und es reicht völlig damit Menschen Beziehungen aufbauen werden.