Sind KI-Chatbots wie ChatGPT für Kinder problematisch?

Die neuen KI-Angebote im Internet sind ein spannendes Thema nicht nur für uns, sondern auch für Kinder. Dabei kann bei auch der Wunsch aufkommen, Chatbots sogar einmal selbst für sich auszuprobieren. Chatbots und andere Programme, die Inhalte generieren, können allerdings unter Umständen gewisse Risiken bergen.

Beispielsweise sind folgende Punkte in diesem Kontext relevant:

• Kritischer Umgang mit Informationen: Während KI-Chatbots wie ChatGPT die Fähigkeit besitzen, grammatikalisch nahezu perfekten Text zu generieren und über umfassendes 'Wissen‘ in praktisch jedem erdenklichen Bereich zu verfügen scheinen, werden die Systeme nicht ohne Grund als 'Black Box' bezeichnet. Ihre Trainingsprozesse sind nicht einsehbar, somit kann nie die genaue Quelle einer Information ermittelt werden kann. Und auch wenn der Großteil der Schilderungen von Natural Language Processing-Systemen (NLP) wahrheitsgemäße Angaben enthält, so schleichen sich doch Ungenauigkeiten oder sogar Fehlinformationen ein.

• Nicht-kindgerechte Inhalte: Kinder könnten auf anstößige oder unangemessene Inhalte stoßen. Auch wenn die Anbieter (im Fall von ChatGPT die Firma 'OpenAI‘) Einschränkungen einrichten, um die Erzeugung von z.B. Hassrede und sexualisierten oder beleidigenden Inhalten zu minimieren, ist nicht vollständig auszuschließen, dass das Modell solche Inhalte trotzdem erstellen könnte.

• Vermeintliche Freunde: Chatbots wirken immer realer und können sich wie ein guter Gesprächspartner anfühlen. Mit ihnen zu schreiben kann Spaß machen, spannend sein und vor allem sind sie immer zu erreichen und das so gut wie ohne zeitliche oder örtliche Begrenzung. Gerade Chatbots, die Bilder oder Stimmen von bekannten und beliebten Stars, Influencer*innen oder Charakteren nutzen, können Kindern das Gefühl vermitteln, tatsächlich mit diesen Personen zu schreiben. Sie können aber keine sozialen Kontakte ersetzen. Es ist wichtig, dass Kinder auch über digitale Medien hinaus regelmäßig Kontakt zu Gleichaltrigen haben und Zeit mit ihren Freund*innen verbringen.

• Datenschutz: Kindern sollten bewusst sein, dass ihre Daten sowie ihre Nachrichtenverläufe mit Chatbots nicht 'geheim' bleiben, sondern beispielsweise für die Optimierung der Systeme verwendet werden können.

• Aufgrund der ungewissen Quelle von generierten Texten ist nie klar, ob man bei der Weiterverwendung oder Veröffentlichung von KI-generierten Inhalten eventuell Urheberrechte verletzt.

Es ist also wichtig, Kinder für den Umgang mit künstlicher Intelligenz zu sensibilisieren, ihnen beizubringen, die Vorteile einer KI produktiv nutzen zu können und mit ihnen über mögliche Gefahren zu sprechen.

Bei einigen Chatbots liegt das Mindestalter für die Registrierung bei 18 Jahren. Mit dem Einverständnis der Erziehungsberechtigten, können viele KI-Bots auch schon mit 13 Jahren verwendet werden. Oftmals ist es jedoch schwierig für Eltern zu kontrollieren, ob ihre Kinder sich an derartige Altersvorgaben halten, oder diese Programme trotzdem nutzen.

Es kann also sinnvoll sein, Kindern anzubieten, diese gemeinsam auszuprobieren und dabei direkt über potenzielle Risiken und Verantwortung im Kontext von KI zu sprechen. Je nach Alter des Kindes, sollte die Nutzung des Chatbots außerdem nach Möglichkeit von einer erwachsenen Person begleitet werden. Im Anschluss bietet es sich an, das Erlebte mit dem Kind noch einmal gemeinsam zu reflektieren und zu verarbeiten.

Viele weitere Infos zu Künstlicher Intelligenz und ChatGPT finden sich zum Beispiel hier:

• Künstliche Intelligenz „ChatGPT”: Chancen und Risiken für Kinder – SCHAU HIN! (schau-hin.info)
• Wie verlässlich ist ChatGPT? (klicksafe.de)
• ChatGPT in der Schule – wie damit umgehen? (klicksafe.de)

Kindgerecht aufgearbeitete Informationen zu diesem Thema gibt es beim Internet-ABC:

• ChatGPT – Definition | Internet-ABC
• Künstliche Intelligenz: Funktionen, Chancen und Risiken | Internet-ABC