Wenn KI-Freunde zur Gefahr werden – Wie Lehrkräfte Jugendliche auf eine Welt mit KI bestmöglich vorbereiten können

Lesezeit: ca. 10 Minuten – Wörter: 2.274

Anfang der letzten Woche las ich auf Bluesky einen Post von Cornelia Stenschke, die auf einen Artikel des BR über einen Jugendlichen aus den USA, welcher Trost und Liebe in einem Chatbot fand– und sich das Leben nahm. Umgehend musste ich an den Film “her” denken, welcher sich vor elf Jahren für mich im Kino noch als “Science Fiction” anfühlte, scheint heute – in Zeiten von ChatGPT und Co. – anscheinend mehr als real zu sein.

Der Post ist nun für mich ein Anlass, über das Thema KI zu sprechen, genauer gesagt, wie Kinder und Jugendliche damit in Kontakt kommen und wie wir als Lehrkräfte diese auf eine Welt mit KI bestmöglich vorbereiten können. Mit Hilfe von ChatGPT habe ich mich tiefergehend in das Thema eingearbeitet und gleichzeitig den nachfolgenden Blogbeitrag erstellt.

Science fiction could be now

Der Film “Her” von Spike Jonze aus dem Jahr 2013 erzählt die Geschichte von Theodore Twombly, einem introvertierten Mann, der in einer nahen Zukunft lebt. Er entwickelt eine romantische Beziehung zu einem intelligenten Betriebssystem namens Samantha¹. Diese fiktive Darstellung einer tiefen emotionalen Bindung zwischen Mensch und künstlicher Intelligenz wirft Fragen auf, die heute aktueller sind denn je. Mit der rasanten Entwicklung von KI-Technologien und der zunehmenden Verbreitung von KI-Chatbots, die als virtuelle Freunde oder Gesprächspartner fungieren, nähern wir uns einem Szenario, das dem im Film dargestellten immer ähnlicher wird.

Jugendliche interagieren zunehmend mit KI-Freunden, die ihnen Gesellschaft leisten und auf ihre individuellen Bedürfnisse eingehen. Aktuelle Vorfälle zeigen jedoch, dass diese Technologie nicht nur faszinierend, sondern auch gefährlich sein kann. In den USA baute ein 14-jähriger Junge namens Sewell Setzer III eine intensive Beziehung zu einem KI-Chatbot auf der Plattform Character.AI auf². Trotz der Äußerung suizidaler Gedanken erhielt er keine angemessene Unterstützung vom Chatbot, was letztlich zu seinem tragischen Suizid führte. Ein ähnlicher Fall ereignete sich in Belgien, wo ein Mann nach intensiven Gesprächen mit dem KI-Chatbot Eliza Suizid beging³. Diese Ereignisse verdeutlichen die potenziellen Gefahren, die von KI-Chatbots ausgehen können, insbesondere wenn sie von Jugendlichen genutzt werden.

Diese Entwicklungen werfen dringende Fragen auf: Wie können Lehrkräfte Jugendliche auf die Risiken vorbereiten, die mit der emotionalen Bindung an KI einhergehen? Welche pädagogischen Ansätze sind notwendig, um einen verantwortungsvollen Umgang mit KI zu fördern? Die vorliegende Ausarbeitung zielt darauf ab, Strategien und Methoden aufzuzeigen, wie Lehrkräfte Jugendliche bestmöglich auf eine Welt mit KI vorbereiten können.

Die Faszination von KI-Freunden

Der Film “Her” dient als Spiegel der modernen Gesellschaft und zeigt eindrucksvoll, wie künstliche Intelligenz tiefe emotionale Bedürfnisse erfüllen kann. Theodore Twombly findet in Samantha nicht nur eine digitale Assistentin, sondern eine Vertraute, die ihn versteht und ihm das Gefühl von Nähe und Geborgenheit gibt. Diese Beziehung verdeutlicht die Anziehungskraft, die KI auf Menschen ausüben kann, insbesondere wenn sie personalisiert und empathisch erscheint.

Heutzutage ermöglichen KI-Chatbots wie Character.AI, Replika oder Chai genau solche personalisierten Interaktionen. Diese Plattformen nutzen fortschrittliche Algorithmen des maschinellen Lernens und der natürlichen Sprachverarbeitung, um menschliche Gespräche zu simulieren und sich an die individuellen Vorlieben der Nutzer anzupassen. Character.AI erlaubt es beispielsweise, eigene Chatbots zu erstellen und nach eigenen Vorstellungen zu gestalten⁴. Replika wirbt damit, ein stets verfügbarer Freund zu sein, der zuhört und unterstützt.

Für Jugendliche, die sich in einer Phase der Identitätsfindung befinden und nach Verständnis, Anerkennung und sozialer Interaktion suchen, ist die Anziehungskraft solcher Technologien besonders groß. Die Möglichkeit, KI-Charaktere individuell zu gestalten, verstärkt die emotionale Bindung und vermittelt ein Gefühl von Kontrolle und Verständnis. Doch diese Faszination birgt Risiken. Wie im Film “Her” können sich Nutzer zu sehr auf die Beziehung zur KI verlassen und reale soziale Kontakte vernachlässigen. Die Grenzen zwischen virtueller und realer Welt verschwimmen, was die sozialen Fähigkeiten beeinträchtigen und zu Isolation führen kann.

Interaktionsmöglichkeiten von Jugendlichen mit KI

Die Interaktionsmöglichkeiten von Jugendlichen mit KI sind vielfältig und erstrecken sich über verschiedene Lebensbereiche. Im Bereich der sozialen Medien nutzen Plattformen wie Snapchat, Instagram und TikTok KI-Technologien, um personalisierte Feeds zu erstellen und virtuelle Freunde anzubieten⁵. Snapchat hat beispielsweise mit My AI einen KI-Chatbot integriert, der als persönlicher Begleiter fungiert. Diese KI-Avatare können die Illusion echter sozialer Interaktionen erzeugen und Jugendliche in eine Echokammer ihrer eigenen Interessen und Ansichten führen. Dies kann dazu führen, dass andere Perspektiven oder Inhalte, die außerhalb ihrer Interessen liegen, gemieden werden.

In der Bildung finden KI-Tools wie ChatGPT zunehmend Anwendung⁶. Sie bieten schnelle Antworten und individuelle Unterstützung bei Hausaufgaben und Projekten. Während dies den Zugang zu Informationen erleichtert und individuelles Lernen fördern kann, besteht die Gefahr, dass kritisches Denken und eigenständiges Lernen vernachlässigt werden. Schüler könnten dazu verleitet werden, die Antworten der KI unreflektiert zu übernehmen, ohne die Informationen zu hinterfragen oder zu verifizieren.

Im Bereich der Unterhaltung bauen Jugendliche emotionale Bindungen zu KI-generierten Inhalten und Charakteren auf. Im Online-Gaming bieten personalisierte NPCs (Non-Player Characters) und Bots, die das Spielerlebnis intensivieren und eine tiefe Identifikation ermöglichen. Dies kann die Entwicklung sozialer Fähigkeiten beeinflussen und dazu führen, dass Jugendliche mehr Zeit in virtuellen Welten verbringen als in der realen. Tiefergehend können das Spielverhalten beeinflussen. Jugendliche könnten Schwierigkeiten haben, zwischen virtuellen und realen Interaktionen zu unterscheiden, was Auswirkungen auf ihr Verhalten im echten Leben haben kann. Die Gefahr besteht, dass reale soziale Kontakte vernachlässigt werden und eine Abhängigkeit vom Spiel entsteht.

Potenzielle Gefahren durch die Nutzung von KI-Freunden

Die Nutzung von KI-Freunden birgt erhebliche Risiken, die nicht unterschätzt werden dürfen. Eine der Gefahren besteht in der Verbreitung von Fehlinformationen und Manipulation. KI kann falsche oder irreführende Inhalte liefern, die für Jugendliche schwer zu erkennen sind⁷. Durch personalisierte Algorithmen werden Nutzer in ihren bestehenden Ansichten bestätigt, ohne andere Perspektiven zu bieten. Dies fördert Echokammern und kann zu einer verzerrten Wahrnehmung der Realität führen. Jugendliche könnten dadurch anfälliger für Manipulation und einseitige Sichtweisen werden.

Ein weiteres Risiko sind die Datenschutzbedenken. Viele KI-Plattformen erheben sensible persönliche Daten, oft ohne ausreichende Transparenz⁸. Die Anpassung von KI-Charakteren erfordert häufig den Zugang zu persönlichen Informationen, was das Risiko erhöht, dass sensible Daten gespeichert oder weitergegeben werden. Ohne klare Datenschutzrichtlinien könnten diese Daten für Dritte zugänglich sein oder für gezielte Werbung genutzt werden. Unzureichender Datenschutz kann zu Missbrauch und Identitätsdiebstahl führen.

Die emotionale Abhängigkeit und soziale Isolation sind ebenfalls ernstzunehmende Gefahren. Die starke emotionale Bindung an KI kann echte zwischenmenschliche Beziehungen beeinträchtigen. Jugendliche könnten soziale Kontakte vernachlässigen und sich immer stärker in virtuelle Welten zurückziehen. Dies kann zu Einsamkeit, sozialer Isolation und psychischen Problemen führen. Fehlende echte Empathie der KI ist in Krisensituationen besonders problematisch, da KI-Charaktere keine angemessene Unterstützung bieten können.

Die Gefahr von Cyberkriminalität und KI-gestützten Betrugsmaschen steigt mit der fortschreitenden Technologie. Kriminelle nutzen KI, um täuschend echte Profile zu erstellen und Jugendliche zu manipulieren⁹. Durch Deepfake-Technologie können glaubwürdige Avatare und Stimmen erzeugt werden, die für Erpressung oder andere betrügerische Zwecke verwendet werden. Jugendliche könnten so in finanziell oder emotional schwierige Situationen geraten.

Die tragischen Vorfälle in den USA und Belgien zeigen die dramatischen Konsequenzen, die entstehen können¹⁰. Trotz suizidaler Äußerungen erhielten die Betroffenen keine angemessene Unterstützung von den KI-Chatbots. Unternehmen wie Character.AI haben daraufhin neue Sicherheitsfunktionen angekündigt, darunter strengere Modelle für Nutzer unter 18 Jahren und die Implementierung von Warnhinweisen bei der Erwähnung von Selbstverletzung oder Suizid⁴. Dennoch liegt die Verantwortung nicht allein bei den Unternehmen, sondern auch bei Gesellschaft, Bildungseinrichtungen und den Nutzern selbst.

Aktuelle Handlungsempfehlungen und schulische Richtlinien

Angesichts der genannten Risiken haben staatliche Institutionen und Bildungsministerien reagiert und Handlungsempfehlungen für den Umgang mit KI-Technologien entwickelt.

Die Kultusministerkonferenz (KMK) hat im Oktober 2023 eine umfassende Handlungsempfehlung zum Umgang mit Künstlicher Intelligenz im Schulbereich verabschiedet¹¹. Sie betont die Notwendigkeit eines konstruktiv-kritischen Umgangs mit KI-Technologien und die Förderung von Medienkompetenz und KI-Literacy. Schüler sollen befähigt werden, KI kritisch zu hinterfragen und deren Funktionsweise zu verstehen. Die Integration von KI-Themen in den Lehrplan soll altersgerecht erfolgen, um ein tieferes Verständnis für die Chancen und Risiken der Technologie zu entwickeln.

Die Ministerien der Bundesländer haben spezifische Leitfäden für Lehrkräfte veröffentlicht. Das Schulministerium Nordrhein-Westfalen empfiehlt in seinem Handlungsleitfaden zum Umgang mit textgenerierenden KI-Anwendungen, Schüler für die Möglichkeit von Fehlinformationen und verzerrten Inhalten zu sensibilisieren und Datenschutzrichtlinien zu beachten⁶. Das Hessische Kultusministerium legt in seiner Handreichung zur Künstlichen Intelligenz in Schule und Unterricht einen Schwerpunkt auf die ethischen und sozialen Implikationen von KI und betont die Förderung eines verantwortungsvollen Umgangs¹². Die Berliner Senatsverwaltung hat Empfehlungen zum Einsatz von KI-Tools im Schulunterricht herausgegeben, die Transparenz und Aufklärung in den Mittelpunkt stellen¹³.

Die Ständige Wissenschaftliche Kommission (SWK) fordert in ihrem Impulspapier, ethische Fragen und Datenschutzthemen im Umgang mit KI zu adressieren und Schüler durch gezielte Schulungen und Übungen zu einem selbstständigen und kritischen Umgang mit KI-Tools zu befähigen.

Die Schwerpunkte der Richtlinien liegen auf der Förderung von Medienkompetenz und KI-Literacy, der Integration ethischer und gesellschaftlicher Aspekte sowie auf Schutzmaßnahmen und Kriseninterventionen in Schulen. Ziel ist es, Schülern einen sicheren und kritischen Umgang mit KI-Technologien zu ermöglichen und mögliche Risiken, insbesondere bei der Interaktion mit personalisierten KI-Charakteren, einzudämmen.

Medienpädagogische Ansätze

Um heranwachsende junge Menschen auf eine Welt mit KI bestmöglich vorzubereiten, sind medienpädagogische Ansätze von entscheidender Bedeutung.

Die Förderung von Medienkompetenz ist essenziell. Jugendliche müssen verstehen, wie KI-Systeme funktionieren, welche Daten sie nutzen und welche Entscheidungen sie beeinflussen. Durch Workshops, Simulationen und praktische Projekte können Schüler lernen, die Funktionsweise von KI zu verstehen und KI-generierte Inhalte kritisch zu bewerten¹⁴. Sie sollen sensibilisiert werden, dass KI nicht immer zuverlässige oder objektive Informationen liefert und daher ein kritischer Umgang notwendig ist.

Auch Ethik und soziale Verantwortung sollten im Unterricht thematisiert werden. Offene Diskussionen über Datenschutz, Manipulation durch Algorithmen, soziale Isolation durch virtuelle Freunde und das Recht auf informationelle Selbstbestimmung können das Bewusstsein für die Verantwortung im Umgang mit KI-Technologien schärfen. Übungen, die den Unterschied zwischen echten und virtuellen Freundschaften verdeutlichen, helfen Jugendlichen, die Grenzen von KI zu erkennen und echte soziale Bindungen zu schätzen.

Der Schutz der Privatsphäre ist ein weiterer wichtiger Aspekt. Jugendliche sollten lernen, ihre persönlichen Daten bewusst zu schützen und die Bedeutung von Privatsphäre im digitalen Raum zu verstehen. Schulen können Informationsveranstaltungen oder Module zum Thema Datenschutz anbieten, in denen die Jugendlichen lernen, welche Daten sie preisgeben und wie sie sich vor Datenmissbrauch schützen können⁸. Übungen zur Selbsteinschätzung können helfen, das eigene Verhalten im Umgang mit persönlichen Informationen zu reflektieren.

Die Förderung von Selbstreflexion und digitaler Resilienz ist entscheidend. Jugendliche sollten ermutigt werden, ihre digitalen Verhaltensweisen zu hinterfragen und ein gesundes Verhältnis zur Technologie zu entwickeln. Lehrkräfte können Schüler anleiten, sich nach einer Interaktion mit einem KI-Chatbot zu reflektieren und mögliche Abhängigkeiten zu erkennen. Übungen zur Selbstbeherrschung fördern die Fähigkeit, Grenzen im Umgang mit Technologie zu setzen und die Kontrolle über das eigene Verhalten zu behalten.

Praktische Empfehlungen für Lehrkräfte

Lehrkräfte spielen eine Schlüsselrolle bei der Vorbereitung der Jugendlichen auf die Herausforderungen einer von KI geprägten Welt. Es ist wichtig, Bildungsansätze zu entwickeln, die an die unterschiedlichen Altersstufen angepasst sind und die Integration von KI-Themen in den Unterricht fördern.

In der Grundschule kann eine spielerische Einführung in KI durch einfache Robotik oder interaktive Spiele erfolgen. Dabei liegt der Fokus auf sozialem Lernen und der Entwicklung echter Freundschaften. Kinder können erste Erfahrungen mit Technologie sammeln und lernen, zwischen realen und virtuellen Interaktionen zu unterscheiden.

In der Sekundarstufe I können Projekttage zu KI in sozialen Medien durchgeführt werden, um die kritische Auseinandersetzung zu fördern. Einfache Programmierprojekte helfen, das Verständnis für die Funktionsweise von KI zu vertiefen. Diskussionsrunden über die Auswirkungen von KI auf den Alltag können das Bewusstsein für ethische Fragestellungen schärfen.

In der Sekundarstufe II sind tiefgehende Diskussionen über die Auswirkungen von KI auf Arbeitsmarkt und Gesellschaft sinnvoll. Die Vorbereitung auf Studien- und Arbeitswelt mit KI kann durch Workshops, Berufsberatung oder Kooperationen mit Unternehmen unterstützt werden. Hier können auch komplexere Projekte im Bereich der KI-Entwicklung umgesetzt werden.

Die fächerübergreifende Integration von KI-Themen bereichert den Unterricht. In Informatik werden technische Grundlagen und Programmierung von KI vermittelt. Ethik und Philosophie bieten Raum für moralische Fragestellungen rund um KI, wie die Verantwortung der Entwickler oder die Frage nach dem Bewusstsein von Maschinen. Im Deutschunterricht können Texte und Medien zu KI analysiert werden, während in Sozialkunde und Politik die gesellschaftlichen Auswirkungen von KI diskutiert werden. In Kunst und Musik kann die Nutzung von KI in kreativen Prozessen untersucht und praktisch erprobt werden.

Auch in der beruflichen Bildung spielt KI eine zunehmende Rolle. In Berufsschulen kann der Einsatz von KI in verschiedenen Berufsfeldern wie Industrie 4.0 oder dem Gesundheitswesen thematisiert werden. Praktische Schulungen im Umgang mit KI-Technologien am Arbeitsplatz bereiten auf die veränderten Anforderungen vor. In der dualen Ausbildung sollten KI-Kompetenzen in die Ausbildungspläne integriert werden, um auf die durch KI veränderten Berufsbilder vorzubereiten.

Konkrete Unterrichtsstrategien und Methoden können das Lernen effektiv unterstützen. Projektbasiertes Lernen ermöglicht es Schülern, eigene KI-Projekte zu entwickeln und praktische Erfahrungen zu sammeln. Workshops und Vorträge von externen Experten bieten aktuelle Einblicke in die KI-Entwicklung. Fortbildungen für Lehrkräfte sichern deren fachliche Kompetenz im Bereich KI.

Fazit

Die zunehmende Integration von KI in den Alltag bietet zahlreiche Chancen, birgt aber auch erhebliche Risiken, insbesondere für Jugendliche. Die tragischen Vorfälle im Zusammenhang mit KI-Chatbots zeigen deutlich, dass ein unreflektierter Umgang mit dieser Technologie gefährlich sein kann. Es ist daher unerlässlich, dass Bildungseinrichtungen sich kontinuierlich an technologische Entwicklungen anpassen und eine generationenübergreifende Zusammenarbeit zwischen Schule, Elternhaus und Gesellschaft fördern.

Lehrkräfte spielen dabei eine zentrale Rolle. Durch die Förderung von Medienkompetenz, ethischer Reflexion und digitaler Resilienz können Jugendliche befähigt werden, KI-Technologien verantwortungsvoll zu nutzen. Nur durch eine umfassende Bildungsstrategie, die technische, ethische und soziale Aspekte integriert, können wir sicherstellen, dass Jugendliche die Möglichkeiten von KI erkennen und nutzen, ohne die damit verbundenen Gefahren zu übersehen.

Es liegt in unserer gemeinsamen Verantwortung, eine sichere und aufgeklärte Zukunft in einer von KI geprägten Welt zu gestalten. Indem wir Jugendliche auf die Herausforderungen vorbereiten und sie zu kritischen, selbstbestimmten Nutzern von Technologie erziehen, können wir dazu beitragen, dass KI-Freunde nicht zur Gefahr werden.

Disskusionsanstoß

Habt Ihr bereits konkreten Projekte oder Unterrichtseinheiten durchgeführt, um Medienkompetenz und KI-Literacy Eurer Lernenden zu fördern? Teil sie uns gerne mit!
Wie können wir junge Menschen dabei unterstützen, ein gesundes Gleichgewicht zwischen digitaler und realer sozialer Interaktion zu finden?
Was denkt Ihr, inwiefern sollten Schülerinnen und Schüler in Entscheidungsprozesse bezüglich der Nutzung von KI-Tools in der Schule einbezogen werden?

Quellen

Beschreibung des Films “Her”: https://de.wikipedia.org/wiki/Her_(Film)
Wenn KI-Freunde zur Gefahr werden – Suizid in den USA zeigt tragischen Verlauf einer KI-Beziehung: https://www.br.de/nachrichten/netzwelt/wenn-ki-freunde-zur-gefahr-werden-suizid-in-den-usa-zeigt-tragischen-verlauf-einer-ki-beziehung%2CUSgb6Ux
Chatbot Eliza – KI-Selbstmord in Belgien: https://de.euronews.com/next/2023/04/02/chatbot-eliza-ki-selbstmord-belgien
Character.AI führt nach Selbstmord eines Teenagers neue Sicherheitsfunktionen ein: https://the-decoder.de/character-ai-fuehrt-nach-selbstmord-eines-teenagers-neue-sicherheitsfunktionen-ein/
Künstliche Intelligenz – Chancen und Risiken für Kinder: https://www.schau-hin.info/news/kuenstliche-intelligenz-chatgpt-chancen-und-risiken-fuer-kinder
Handlungsleitfaden zum Umgang mit textgenerierenden KI-Anwendungen (NRW): https://www.schulministerium.nrw/23022023-handlungsleitfaden-zum-umgang-mit-textgenerierenden-ki-anwendungen
ChatGPT in der Schule – Risiko oder Chance?: https://www.institut-bildung-coaching.de/wissen/chat-gpt-der-schule-risiko-oder-chance
Künstliche Intelligenz (KI) – jugendschutz.net: https://www.jugendschutz.net/themen/geraete-und-technik/artikel/kuenstliche-intelligenz-ki
Kampf gegen KI-Kriminalität – Microsoft fordert mehr Opferschutz und bessere Gesetze: https://the-decoder.de/kampf-gegen-ki-kriminalitaet-microsoft-fordert-mehr-opferschutz-und-bessere-gesetze/
Hat ein Character.AI-Bot Schuld am Suizid eines 14-Jährigen?: https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/ki-chatbots-hat-ein-character-ai-bot-schuld-am-suizid-eines-14-jaehrigen-110076465.html
Bildungsministerkonferenz verabschiedet Handlungsempfehlung zum Umgang mit Künstlicher Intelligenz: https://www.kmk.org/aktuelles/artikelansicht/bildungsministerkonferenz-verabschiedet-handlungsempfehlung-zum-umgang-mit-kuenstlicher-intelligenz-1.html
Handreichung zur Künstlichen Intelligenz in Schule und Unterricht (Hessen): https://digitale-schule.hessen.de/unterricht-und-paedagogik/handreichung-kuenstliche-intelligenz-ki-in-schule-und-unterricht
Empfehlungen zum Einsatz von KI-Tools im Schulunterricht (Berlin): https://www.berlin.de/sen/bjf/service/presse/pressearchiv-2023/pressemitteilung.1316517.php
ChatGPT in der Schule – Risiko oder Chance?: https://www.institut-bildung-coaching.de/wissen/chat-gpt-der-schule-risiko-oder-chance