KI und Kinder – wenn der Chatpartner krank macht

Als OpenAI seinen Chatbot "ChatGPT" ursprünglich veröffentlichte, war der Zugang nur über die Website möglich. Inzwischen gibt es eigene Apps – nicht nur von OpenAI, sondern auch von anderen Anbietern. KI ist heute in vielen Anwendungen integriert und dadurch leicht zugänglich – auch für Kinder.

Wo kommen Kinder mit KI in Kontakt?

Kinder interagieren oft unbewusst mit KI – etwa in Videospielen mit computergesteuerten Gegnern, in Foto- und Video-Apps mit Filtern oder Funktionen wie TikToks „AI Alive“. Auch Lern-Apps und Sprachassistenten nutzen Künstliche Intelligenz. Während einige KI-Anwendungen im Alltag eher unauffällig und harmlos sind, ist der Einsatz in sozialen Netzwerken besonders präsent: Plattformen wie Snapchat oder Instagram bieten Chats mit KI-Bots (z. B. "Meta AI" oder "MyAI") an, die am gleichen Ort liegen wie die Chats mit menschlichen Freunden – immer verfügbar, immer freundlich, immer bereit zu antworten.

Warum können KI-Chatbots problematisch sein?

Vor allem Kinder tun sich jedoch oft schwer damit, zwischen echten Gesprächen und KI-Dialogen zu unterscheiden. Chatbots wirken freundlich, interessiert und reagieren genau so, wie es den Nutzenden gefällt. Das kann dazu führen, dass Kinder emotionale Bindungen aufbauen – zu einem System, das keine echten Gefühle hat.

Das kann zu einseitigen Beziehungen und einer emotionalen Abhängigkeit führen, bei der das Kind den Chatbot wie einen echten Freund oder eine Vertrauensperson sieht und Gefühle für diesen entwickelt, die die KI nicht erwidern kann. Ein solches Verhältnis ist äußerst ungesund und kann unter Umständen sogar krank machen oder zu einer starken emotionalen Abhängigkeit führen, die psychisch belastend sein kann. Im Netz wird in diesem Zusammenhang umgangssprachlich von einer "KI-Psychose" gesprochen.

Was können Eltern und Fachkräfte tun?

• Ansprechbar sein: Wenn Kinder sich einem Menschen anvertrauen können, brauchen sie keinen Chatbot als "Vertrauensperson".
• Aufklären: Kinder sollten wissen, dass KI nur ein technisches System ist – kein echter Gesprächspartner.
• Regeln aufstellen: Klare Grenzen für die Nutzung dieser Chatbots setzen (z. B. keine Chats ohne Wissen der Eltern).
• Selbstreflektion fördern: Kindern helfen, ihre Gefühle gegenüber dem KI-Bot einzuordnen.

Weitere Infos rund um dieses KI-Thema finden sich hier:

• KI-Psychose | ZEBRA (@fragzebra) | TikTok
• Psychische Gesundheit: Wenn künstliche Intelligenz Psychosen auslöst · Dlf Nova