KI kindgerecht! –

Ob Chatbots, Smart Home-Technologien, KI-Companions, KI-gestützte Games oder KI als Teil anderer digitaler Anwendungen wie Social Media: die aktuellen technologischen Entwicklungen sind rasant und reichen inzwischen auch in die Lebensbereiche jüngerer Kinder. Die Regulierung über die bislang vorherrschenden Ansätze des Kinder- und Jugendmedienschutzes stößt an ihre Grenzen. Dies wirft neue Fragen für Eltern, pädagogische Fachkräfte und die gesamte Gesellschaft auf, darunter vor allem diese: Wie gelingt gutes Aufwachsen im Zeitalter der Digitalisierung und insbesondere im Kontext von KI?

Gefährdungen durch digitale Medien sind weitreichend: Sie umfassen Inhaltsrisiken, wie drastische Kriegsbilder, gezielte Desinformation, Deep Fakes und Deep Nudes sowie Interaktionsrisiken wie Hate Speech, Cybergrooming oder -mobbing und sexualisierte Gewalt. Im Kontext interagierender, generativer KI treten viele neue Risiken rund um Privatsphäre und Datenschutz auf. Außerdem verstärken sich bereits bekannte Gefahren für die körperliche und mentale Gesundheit von Kindern. Um nun die Trias aus Schutz, Teilhabe und Befähigung zu regulieren, müssen die Handlungsempfehlungen der Kommission rasch umgesetzt werden.

Die Debatten rund um Kinder und digitale Medien werden oft angstorientiert geführt, darunter die aktuelle Social-Media-Debatte. Dabei zeigt sich, dass es für die hochkomplexen Problemlagen bezogen auf Kinder und KI und das Design digitaler Anwendungen keine einfachen Lösungen gibt. Es braucht ein ganzes Bündel an Maßnahmen und ein breites Netzwerk an Akteuren, die gemeinsam Verantwortung dafür übernehmen, Kindern sowohl ein sicheres Aufwachsen als auch Teilhabe und Entwicklung zentraler Schlüsselkompetenzen für die Digitale Welt zu ermöglichen.

Kinder brauchen also eine kindgerechte KI. Aber sie brauchen auch Erwachsene, Politik und Anbieter, die Verantwortung teilen, statt sie gegeneinander auszuspielen. Während Eltern mit der rasanten technischen Entwicklung oft überfordert sind, greift es zu kurz, ihnen allein die Verantwortung zu übertragen oder sie gar für alle Risiken haftbar zu machen. Aus Sorge vor fehlenden Schutzmaßnahmen entstehen häufig reflexartige politische Forderungen, wie die ersten Reaktionen auf die Handlungsempfehlungen der Expertenkommission zeigen. Der scheinbar einfachste Weg ist dabei der schlechteste, zum Beispiel beim pauschalen Verbot für Minderjährige. Ein solches verhindert nämlich, dass Kinder im geschützten Rahmen die Kompetenzen einer souveränen, kritischen und kreativen Mediennutzung überhaupt erst erlernen können. Bilden sich diese Fähigkeiten doch erst durch begleitetes Üben, altersgerechte Erklärungen, verständliche Regeln und positive Beispiele. Ganz abgesehen davon ist ein pauschales Verbot von KI-Anwendungen praktisch nicht durchsetzbar. KI steckt schließlich schon längst in Suchmaschinen, Lern-Apps, Sprachassistenzen, Spiele-Plattformen und sozialen Netzwerken. Zeitgemäßer Kinder- und Jugendmedienschutz beinhaltet also immer auch die Befähigung durch erlernte KI-Kompetenz. Diese muss in der schulischen und außerschulischen Bildung gestärkt werden, gehört aber auch ins Elternhaus. Eltern können und sollen je nach Alter des Kindes eine Gatekeeper-Funktion übernehmen – aber sie können nicht die gesamte digitale Welt alleine kontrollieren. Kindgerechte KI verlangt deshalb strukturelle Veränderungen: Plattformen und Dienste, die KI einsetzen, können entscheiden, ob sie Kinder ernst nehmen. Diese fünf Standards müssen deshalb eingehalten werden: Sicherheit (safety-by-design), Wahrung der Kinderrechte (rights-by-design), ein altersgerechter Teilhaberaum, Datenschutz (privacy-by-design) und menschliche Kontrolle (human-in-the-loop).

Im gesamtgesellschaftlichen Diskurs darüber, wie wir als Gesellschaft mit KI leben wollen, müssen Kriterien für eine kindgerechte KI berücksichtigt werden. Was fördert eine „gute Kindheit“ in der Digitalen Welt? Was sind die zentralen Faktoren für die Qualität digitaler Angebote, für geeignete Nutzungsformen und für eine kindgerechte Gestaltung von KI?

Diese Fragen stellen sich im Spannungsfeld zentraler Grundwerte, wie Freiheit und Verantwortung. Das in der Kinderrechtskonvention festgeschriebene Recht auf Teilhabe, Befähigung und Schutz gilt im Sinne des Kindeswohls, d. h. des Wohls einzelner Kinder und von Kindern als gesellschaftlicher Gruppe im Kontext gleichwertiger Kinderrechte. Die Lösung liegt eben nicht darin, verschiedene Rechte gegeneinander auszuspielen, es braucht vielmehr Schutz und Teilhabe.

Hier setzen wir an: Wir setzen uns für eine vertrauenswürdige kindgerechte KI ein, die Kindern geschützte Räume für Teilhabe, Interaktion und Reflexion eröffnet. Anknüpfend an Initiativen wie das Seitenstark-Gütesiegel und auf ethisch reflektierter Basis entwickeln wir gemeinsam Kriterien, die in einem Code of Conduct für kindgerechte interaktive KI münden. Der Code of Conduct richtet sich gezielt an Anbieter und Institutionen, die sich mit dem Verhaltenskodex dazu verpflichten, KI-Anwendungen altersgerecht zu gestalten oder einzusetzen. Unterstützen können den Code of Conduct aber auch all jene, denen das Thema kindgerechte KI wichtig ist. Bei der Erarbeitung der Kriterien für den Code of Conduct blicken wir auf Chatbots oder agentische KI, und stützen uns auf bereits in Erprobung befindliche Projekte und Best-Practice-Beispiele wie den Chatbot AUXIE.

Wir sind überzeugt, dass es mehr geeignete KI-Angebote für Kinder geben muss, die sie aktiv mitgestalten können und die ihr Bewusstsein für den sinnvollen Einsatz von KI schärfen. Wir als Seitenstark e.V. und Kirchen wollen gemeinsam Pionierarbeit leisten, um das digitale Gemeinwohl zu fördern. Dazu laden wir alle interessierten Akteure herzlich ein.

Unsere Ziele:

• Gesamtgesellschaftliche Aufklärung und Kompetenzbildung vorantreiben
• Tragfähige Qualitätskriterien etablieren, die Kinder, Eltern und pädagogische Fach- und Lehrkräfte beim Medienkompetenzerwerb unterstützen
• Qualitativ hochwertige, nicht kommerzielle KI-Angebote für Kinder finanziell absichern und ausbauen

Diese fünf Grundprinzipien liefern den ersten Rahmen für eine kindgerechte KI. Im Prozess der kommenden Monate werden wir sie konkretisieren – gemeinsam mit allen gesellschaftlichen Akteuren, die sich beteiligen wollen.

• Safety By Design
• Rights By Design
• Kindgerechter Teilhaberaum
• Privacy by Design
• Human In The Loop