Auch KI kann sich irren

Wie lernt KI?

KI wird mit riesigen Mengen an Texten, Bildern, Sprache oder anderen Daten trainiert. Dabei „lernt“ sie Muster zu erkennen und daraus Antworten oder Vorhersagen abzuleiten. Dafür gibt es verschiedene Methoden:

• Algorithmen: einfache Anleitungen mit festen Schritten, ähnlich wie ein Kochrezept.
• Maschinelles Lernen: hier verbessern sich die Programme selbst durch Wiederholungen und Feedback.
• Deep Learning: eine spezielle Form des maschinellen Lernens, die mit künstlichen neuronalen Netzen arbeitet. Damit werden besonders komplexe Muster in Sprache, Bildern oder Texten erkannt.

Woher kommen die Daten?

Die Daten stammen aus vielen unterschiedlichen Quellen, etwa aus dem Internet, von sozialen Netzwerken, aus Datenbanken oder auch direkt von Nutzerinnen und Nutzern. Das Problem ist: Außenstehende wissen nicht genau, welche Quellen genutzt wurden. Darum spricht man von einer „Black Box“. Richtiges und Falsches können vermischt sein.

Warum ist wichtig, wer die KI baut?

Entwicklerinnen und Entwickler entscheiden, mit welchen Daten die KI gefüttert wird. Dadurch können Fehler oder Vorurteile übernommen werden. Außerdem spielen wirtschaftliche oder politische Interessen eine Rolle. Deshalb sollte nachvollziehbar sein, welche Unternehmen oder Organisationen hinter einer KI stehen und woher die Daten kommen.

Welche Risiken und Herausforderungen gibt es?

• Desinformation und Manipulation: KI kann täuschend echte Texte, Bilder oder Videos erstellen (Deepfakes, Deepnudes). Das erleichtert die Verbreitung von Falschinformationen.
• Unzuverlässige Chatbots: Antworten wirken oft überzeugend, können aber sachlich falsch sein, ein Problem besonders in Schule, Wissenschaft und Journalismus.
• Ethikverletzungen: KI kann gesellschaftliche Vorurteile verstärken, diskriminierende Inhalte reproduzieren oder Hassrede fördern.
• Datensicherheit: KI-Systeme speichern oft persönliche Daten.
• Urheberrecht: KI-generierte Inhalte sind oft frei nutzbar, können aber auf geschützten Materialien basieren.

Warum wiederholt KI manchmal falsche Infos?

Das geschieht auf drei Wegen:

1. Falsche Informationen sind schon in den Trainingsdaten enthalten.
2. KI „halluziniert“ und denkt sich Inhalte aus.
3. Bereits vorhandene Fake News werden übernommen und weiterverbreitet.

Dadurch können falsche Informationen stärker wirken als zuvor.

Das eigene Wissen bleibt wichtig: Wer sich in einem Thema gut auskennt, erkennt schneller, ob KI Unsinn erzählt. KI kann ein nützliches Werkzeug sein, ersetzt aber keine menschliche Bildung oder kritisches Denken.

Zukunft: Starke und schwache KI

Aktuell existiert nur schwache KI, also Systeme, die spezialisierte Aufgaben erfüllen, etwa beim Schach, Übersetzungen oder personalisierten Empfehlungen. Eine starke KI, die wie ein Mensch denkt, versteht und kreativ kombiniert, existiert nicht. Sie bleibt eine Vision der Zukunft. Bis dahin wird KI stets von Daten abhängig sein.

Welche Rolle spielen Regeln?

Die Europäische Union hat 2024 den AI Act verabschiedet. Dieses Gesetz soll den Nutzen von KI fördern, zugleich aber Gefahren verhindern.

• Seit Februar 2025 sind KI-Systeme mit „inakzeptablem Risiko“ verboten.
• Ab August 2025 gelten strengere Vorschriften für große Modelle.
• Ab August 2026 greifen alle Regeln vollständig.

Tipps zum Erkennen von Desinformation findest du in unserer Wissensdatenbank:

• Wie erkenne ich Desinformation? - ZEBRA
• Wie kann ich Deepfakes erkennen? - ZEBRA
• Was ist Inoculation in Bezug auf Medien? - ZEBRA