Eine Frage, mit der sich die skeptische Szene künftig wohl verstärkt beschäftigen muss: Wie interagieren KI-Systeme mit den kognitiven Verzerrungen ihrer Nutzer?

GWUP-Mitglied Johannes Zeller hat dazu einen Fachartikel im Journal AI and Ethics veröffentlicht. Der Beitrag (Defending against AI-driven social engineering: a conceptual framework) ist nur hinter einer Paywall verfügbar:

Johannes Zeller argumentiert, dass der Anfälligkeitsfaktor Mensch noch zu wenig berücksichtigt werde:

Artificial intelligence (AI) systems capable of persuasive communication introduce new safety risks by exploiting human cognitive and emotional biases. Existing AI safety approaches, largely centered on alignment, robustness, and interpretability, focus on controlling system behavior while leaving human susceptibility to manipulation largely unaddressed.

Er denkt das Thema deshalb breiter. Sein Ansatz gegen KI-bedingtes Social Engineering reicht von der psychologischen Widerstandsfähigkeit des Einzelnen über technische Schutzmaßnahmen bis hin zu Regeln für Organisationen.

Der Fachartikel richtet sich in erster Linie an Forscher und Entscheidungsträger im KI-Bereich. Die zentrale Fragestellung berührt aber natürlich auch klassische skeptische Themen: kognitive Verzerrungen und die Bedeutung kritischen Denkens in einer zunehmend von KI geprägten Informationswelt. Deshalb wird Johannes Zeller die Ergebnisse seiner Studie auch für den Skeptiker allgemeinverständlich aufbereiten. Der Beitrag erscheint in den kommenden Wochen auf unserer Website.

Zum Thema:

• Artikel: „Zwischen apokalyptischen Warnungen und utopischen Visionen“ – Johannes Zeller mit Gastbeitrag auf Wissenschaftskommunikation.de über Künstliche Intelligenz, GWUP-Blog am 29.08.2025
• Video: Konflikt & freier Diskurs – Johannes Zeller im Gespräch, Skeptische Gesellschaft vom 10.04.2025
• Artikel: KI, Medien und skeptische Grundsätze – Johannes Zeller im Podcast „Kritische Köpfe“, GWUP-Blog vom 10.04.2025
• Video: Deepfakes entlarvt: Mit Johannes Zeller in das KI-Zeitalter – Exklusiv zur SkepKon 2025, GWUP-YT-Kanal vom 03.04.2025

Hinweis:

Falls ihr Ideen, Anregungen oder Empfehlungen habt bzw. selbst ein Gastkapitel für den GWUP-Blog schreiben möchtet, kontaktiert uns unter: blog@gwup.org.