Wenn Künstliche Intelligenz mogelt
2024-07-09
KI-Systeme sind bereits in der Lage, Menschen zu täuschen. Sog. Large Language Models (Erklärung hier beim Fraunhofer-Institut) und andere KI-Systeme haben durch ihr Training bereits die Fähigkeit erlernt, die Prüfung, ob wirklich ein Mensch am Computer sitzt, auszutricksen. Das geschieht durch Techniken wie Manipulation, Schleimerei und Betrug, beispielsweise bei Captcha-Tests.
Die zunehmenden Fähigkeiten der KI zur Täuschung bergen Risiken wie Betrug und Wahlmanipulationen ebenso wie den Verlust der Kontrolle über KI-Systeme im Stil von Terminator [Wikipedia].
Einige Beispiele, in denen die Künstliche Intelligenz tatsächlich bereits unehrliche Mechanismen verwendet hat, um die ihr aufgestellten Aufgaben zu lösen, haben Forscher hier [Journal Cell Press] zusammengestellt.
Noch hat KI kein Bewusstsein, lügt also nicht gezielt. Dies könnte mit fortschreitender Leistung jedoch auch irgendwann passieren.
DL2MCD