Wenn KI-Freunde zur Gefahr werden – Wie Lehrkräfte Jugendliche auf eine Welt mit KI bestmöglich vorbereiten können
Lesezeit: ca. 10 Minuten – Wörter: 2.274 Anfang der letzten Woche las ich auf Bluesky einen Post von Cornelia Stenschke, die auf einen Artikel des BR über einen Jugendlichen aus den USA, welcher Trost und Liebe in einem Chatbot fand– und sich das Leben nahm. Umgehend musste ich an den Film “her” denken, welcher sich vor elf Jahren für mich im Kino noch als “Science Fiction” anfühlte, scheint heute – in Zeiten von ChatGPT und Co. – anscheinend mehr als real zu sein. Der Post ist nun für mich ein Anlass, über das Thema KI zu sprechen, genauer gesagt, wie Kinder und Jugendliche damit in Kontakt kommen und wie wir als Lehrkräfte diese auf eine Welt mit KI bestmöglich vorbereiten können. Mit Hilfe von ChatGPT habe ich mich tiefergehend in das Thema eingearbeitet und gleichzeitig den nachfolgenden Blogbeitrag erstellt. Science fiction could be now Der Film “Her” von Spike Jonze aus dem Jahr 2013 erzählt die Geschichte von Theodore Twombly, einem introvertierten Mann, der in einer nahen Zukunft lebt. Er entwickelt eine romantische Beziehung zu einem intelligenten Betriebssystem namens Samantha1. Diese fiktive Darstellung einer tiefen emotionalen Bindung zwischen Mensch und künstlicher Intelligenz wirft Fragen auf, die heute aktueller sind denn je. Mit der rasanten Entwicklung von KI-Technologien und der zunehmenden Verbreitung von KI-Chatbots, die als virtuelle Freunde oder Gesprächspartner fungieren, nähern wir uns einem Szenario, das dem im Film dargestellten immer ähnlicher wird. Jugendliche interagieren zunehmend mit KI-Freunden, die ihnen Gesellschaft leisten und auf ihre individuellen Bedürfnisse eingehen. Aktuelle Vorfälle zeigen jedoch, dass diese Technologie nicht nur faszinierend, sondern auch gefährlich sein kann. In den USA baute ein 14-jähriger Junge namens Sewell Setzer III eine intensive Beziehung zu einem KI-Chatbot auf der Plattform Character.AI auf2. Trotz der Äußerung suizidaler Gedanken erhielt er keine angemessene Unterstützung vom Chatbot, was letztlich zu seinem tragischen Suizid führte. Ein ähnlicher Fall ereignete sich in Belgien, wo ein Mann nach intensiven Gesprächen mit dem KI-Chatbot Eliza Suizid beging3. Diese Ereignisse verdeutlichen die potenziellen Gefahren, die von KI-Chatbots ausgehen können, insbesondere wenn sie von Jugendlichen genutzt werden. Diese Entwicklungen werfen dringende Fragen auf: Wie können Lehrkräfte Jugendliche auf die Risiken vorbereiten, die mit der emotionalen Bindung an KI einhergehen? Welche pädagogischen Ansätze sind notwendig, um einen verantwortungsvollen Umgang mit KI zu fördern? Die vorliegende Ausarbeitung zielt darauf ab, Strategien und Methoden aufzuzeigen, wie Lehrkräfte Jugendliche bestmöglich auf eine Welt mit KI vorbereiten können. Die Faszination von KI-Freunden Der Film “Her” dient als Spiegel der modernen Gesellschaft und zeigt eindrucksvoll, wie künstliche Intelligenz tiefe emotionale Bedürfnisse erfüllen kann. Theodore Twombly findet in Samantha nicht nur eine digitale Assistentin, sondern eine Vertraute, die ihn versteht und ihm das Gefühl von Nähe und Geborgenheit gibt. Diese Beziehung verdeutlicht die Anziehungskraft, die KI auf Menschen ausüben kann, insbesondere wenn sie personalisiert und empathisch erscheint. Heutzutage ermöglichen KI-Chatbots wie Character.AI, Replika oder Chai genau solche personalisierten Interaktionen. Diese Plattformen nutzen fortschrittliche Algorithmen des maschinellen Lernens und der natürlichen Sprachverarbeitung, um menschliche Gespräche zu simulieren und sich an die individuellen Vorlieben der Nutzer anzupassen. Character.AI erlaubt es beispielsweise, eigene Chatbots zu erstellen und nach eigenen Vorstellungen zu gestalten4. Replika wirbt damit, ein stets verfügbarer Freund zu sein, der zuhört und unterstützt. Für Jugendliche, die sich in einer Phase der Identitätsfindung befinden und nach Verständnis, Anerkennung und sozialer Interaktion suchen, ist die Anziehungskraft solcher Technologien besonders groß. Die Möglichkeit, KI-Charaktere individuell zu gestalten, verstärkt die emotionale Bindung und vermittelt ein Gefühl von Kontrolle und Verständnis. Doch diese Faszination birgt Risiken. Wie im Film “Her” können sich Nutzer zu sehr auf die Beziehung zur KI verlassen und reale soziale Kontakte vernachlässigen. Die Grenzen zwischen virtueller und realer Welt verschwimmen, was die sozialen Fähigkeiten beeinträchtigen und zu Isolation führen kann. Interaktionsmöglichkeiten von Jugendlichen mit KI Die Interaktionsmöglichkeiten von Jugendlichen mit KI sind vielfältig und erstrecken sich über verschiedene Lebensbereiche. Im Bereich der sozialen Medien nutzen Plattformen wie Snapchat, Instagram und TikTok KI-Technologien, um personalisierte Feeds zu erstellen und virtuelle Freunde anzubieten5. Snapchat hat beispielsweise mit My AI einen KI-Chatbot integriert, der als persönlicher Begleiter fungiert. Diese KI-Avatare können die Illusion echter sozialer Interaktionen erzeugen und Jugendliche in eine Echokammer ihrer eigenen Interessen und Ansichten führen. Dies kann dazu führen, dass andere Perspektiven oder Inhalte, die außerhalb ihrer Interessen liegen, gemieden werden. In der Bildung finden KI-Tools wie ChatGPT zunehmend Anwendung6. Sie bieten schnelle Antworten und individuelle Unterstützung bei Hausaufgaben und Projekten. Während dies den Zugang zu Informationen erleichtert und individuelles Lernen fördern kann, besteht die Gefahr, dass kritisches Denken und eigenständiges Lernen vernachlässigt werden. Schüler könnten dazu verleitet werden, die Antworten der KI unreflektiert zu übernehmen, ohne die Informationen zu hinterfragen oder zu verifizieren. Im Bereich der Unterhaltung bauen Jugendliche emotionale Bindungen zu KI-generierten Inhalten und Charakteren auf. Im Online-Gaming bieten personalisierte NPCs (Non-Player Characters) und Bots, die das Spielerlebnis intensivieren und eine tiefe Identifikation ermöglichen. Dies kann die Entwicklung sozialer Fähigkeiten beeinflussen und dazu führen, dass Jugendliche mehr Zeit in virtuellen Welten verbringen als in der realen. Tiefergehend können das Spielverhalten beeinflussen. Jugendliche könnten Schwierigkeiten haben, zwischen virtuellen und realen Interaktionen zu unterscheiden, was Auswirkungen auf ihr Verhalten im echten Leben haben kann. Die Gefahr besteht, dass reale soziale Kontakte vernachlässigt werden und eine Abhängigkeit vom Spiel entsteht. Potenzielle Gefahren durch die Nutzung von KI-Freunden Die Nutzung von KI-Freunden birgt erhebliche Risiken, die nicht unterschätzt werden dürfen. Eine der Gefahren besteht in der Verbreitung von Fehlinformationen und Manipulation. KI kann falsche oder irreführende Inhalte liefern, die für Jugendliche schwer zu erkennen sind7. Durch personalisierte Algorithmen werden Nutzer in ihren bestehenden Ansichten bestätigt, ohne andere Perspektiven zu bieten. Dies fördert Echokammern und kann zu einer verzerrten Wahrnehmung der Realität führen. Jugendliche könnten dadurch anfälliger für Manipulation und einseitige Sichtweisen werden. Ein weiteres Risiko sind die Datenschutzbedenken. Viele KI-Plattformen erheben sensible persönliche Daten, oft ohne ausreichende Transparenz8. Die Anpassung von KI-Charakteren erfordert häufig den Zugang zu persönlichen Informationen, was das Risiko erhöht, dass sensible Daten gespeichert oder weitergegeben werden. Ohne klare Datenschutzrichtlinien könnten diese Daten für Dritte zugänglich sein oder für gezielte Werbung genutzt werden. Unzureichender