Sprachassistenten, maschinelle Übersetzungen oder auch personenspezifische Werbung – Künstliche Intelligenz (KI) begleitet uns schon seit einigen Jahren. Sie entwickelt sich derzeit rasant weiter und bietet schon jetzt zahlreiche Möglichkeiten für die Arbeit mit Kindern und Jugendlichen: KI ermöglicht beispielsweise personalisierte Lernansätze, bietet virtuelle Beratung und fördert kreative digitale Projekte. KI-basierte Tools können dabei helfen, individuell auf Bedürfnisse einzugehen und so die Teilhabe stärken. Sie bietet im Bereich der digitalen Kinder- und Jugend(sozial)arbeit also zahlreiche Chancen. Doch die Nutzung von KI muss verantwortungsbewusst und unter Berücksichtigung von ethischen, sozialen und sicherheitstechnischen Herausforderungen erfolgen. Nur so kann sichergestellt werden, dass die Technologie Kindern und Jugendlichen zugutekommt und ihre Entwicklung fördert, ohne dabei ihre Privatsphäre oder Sicherheit zu gefährden.

Schon Jugendliche sollten lernen, wie man KI sicher und verantwortungsbewusst einsetzt und so nicht nur Nutzer, sondern auch Mitgestalter dieser Entwicklung werden. Wir sollten sie nicht alleine mit ihren Herausforderungen lassen, sondern ihre Fähigkeiten stärken und so ihre Chancen in einer zunehmend digitalisierten Welt fördern.

Das Bundesministerium für Wirtschaft und Klimaschutz (BMWK) hat in seinen ethischen Richtlinien für Künstliche Intelligenz fünf wesentliche Grundsätze definiert, die den verantwortungsvollen Umgang mit KI steuern sollen.

• Würde und Menschenrechte wahren: KI soll den Menschen dienen und deren Grundrechte, wie die Menschenwürde, respektieren.
• Transparenz und Nachvollziehbarkeit: KI-Systeme sollen transparent und für den Menschen verständlich sein.
• Verantwortung und Rechenschaft: Die Verantwortung für KI-Systeme bleibt beim Menschen, der Rechenschaft ablegen muss.
• Sicherheit und Schutz: KI muss sicher und zuverlässig arbeiten, Risiken sollen minimiert werden.
• Gleichbehandlung und Fairness: Diskriminierung durch KI ist zu vermeiden, sie soll fair und gerecht handeln.
• Autonomie und Kontrolle: Der Mensch muss die Kontrolle über KI behalten und Entscheidungen mitbestimmen können.
• Nachhaltigkeit: KI soll zur Lösung globaler Herausforderungen beitragen, etwa im Klimaschutz und bei der Förderung einer nachhaltigen Entwicklung.

Diese Prinzipien sollen sicherstellen, dass KI-Systeme verantwortungsvoll und im Einklang mit den grundlegenden ethischen Werten unserer Gesellschaft entwickelt und eingesetzt werden. Sie sollten vor allem in der Arbeit mit Kindern und Jugendlichen von Fachkräften praktiziert werden und auch an die Zielgruppe vermittelt werden.

Doch wie kann KI sinnvoll in unserer Arbeit eingesetzt werden? Wir geben euch einen kleinen (Im)Puls:

• Kreative Gestaltung mit KI: Kinder und Jugendliche können KI-Tools nutzen, um kreativ zu arbeiten, z. B. durch die Erstellung von Kunstwerken oder Geschichten.
• Bildgeneratoren: Einsatz von KI, um visuelle Kunst zu schaffen (z. B. digitale Malerei, Collagen, Animationen).
• Textbasierte KI: Nutzung von KI, um Geschichten, Gedichte oder sogar Dialoge zu schreiben, die ihre kreativen Ideen zum Leben erwecken.
• Medienpädagogik:Kinder und Jugendliche müssen lernen, wie sie KI sicher nutzen können, während sie gleichzeitig kritisch gegenüber den Risiken und Herausforderungen der Technologie bleiben.
• Förderung der psychischen Gesundheit: Tools wie "Woebot" nutzen KI, um Gespräche zu führen und personalisierte Unterstützung bei psychischen Gesundheitsproblemen zu bieten.
• Erhöhung der Jugendpartizipation: KI-gestützte Plattformen können Jugendlichen helfen, ihre Meinungen zu äußern und in Entscheidungsprozesse einbezogen zu werden.

Hinweis: Habt ihr bemerkt, dass der Text von einer KI mitverfasst wurde? Textbasierte KI-Tools können euch beim Einstieg in ein Thema helfen und euch erste Ideen für eure Texte geben. Sie sollten jedoch nicht ohne weitere Überarbeitung verwendet werden.

In unserer Linksammlung findet ihr weiterführende Informationen, Materialien und Tools, um euch in diesem Bereich besser zurechtzufinden und den Einsatz von KI verantwortungsvoll zu gestalten.

Weiterführende Medien und Materialien

Das Herunterladen einer ansprechenden Grafik aus dem Internet für den Flyer, das Hinzufügen eines beliebten Musiktitels zum Social-Media Post oder das Veröffentlichen eines Gruppenfotos von der Veranstaltung. Wenn euch diese Beispiele im beruflichen Alltag begegnen, habt ihr es unweigerlich mit der Frage zu tun: Darf ich das überhaupt? Wie sieht das mit Urheberrecht, Persönlichkeitsrechten und/oder Datenschutz aus? Während manche dieser Fragen ganz klar juristisch geklärt sind, ist bei anderen etwas Spielraum und die konkrete Beantwortung des Einzelfalls hängt auch davon ab, was euer*eure Datenschutzbeauftragte*r empfiehlt.

Nehmen wir das Beispiel Filmabend oder Gaming-Event: Ihr habt einen Film ausgewählt, der erst ab 12 Jahren freigegeben ist. In der Gruppe sind zwei elf-jährige die an dem Event teilnehmen möchten. Einige Träger könnten sagen, dass man sich strikt an das Jugendschutzgesetz halten soll, und dass die zwei an der Veranstaltung nicht teilnehmen können, während andere versuchen könnten, wenn dies angemessen ist, die Erlaubnis der Eltern oder Erziehungsberechtigten einzuholen.

Weitere Anlässe, bei denen es nötig ist, eine Einverständniserklärung anzufordern und zu dokumentieren, sind zum Beispiel Veranstaltungen, bei denen die Teilnehmer*innen fotografiert werden sollen. Das Formular muss so konkret wie möglich formuliert sein und genau erklären, warum die Teilnehmenden fotografiert werden, wo die Bilder veröffentlicht werden, und für welchen Zeitraum sie gespeichert oder genutzt werden. Da Jugendliche erst ab 16 selbst einwilligen können, ist es notwendig sich immer eine Einwilligung der Erziehungsberechtigten zu holen. Beispielvorlagen findet ihr in der Linksammlung unten.

Auch bei Social Media gibt es einiges zu bedenken. So ist es zum Beispiel einfach, einem Social-Media-Beitrag einen auf der Plattform bereitgestellten Ton hinzuzufügen, aber nur weil es zugänglich ist, bedeutet dies nicht unbedingt, dass das Kunst- und Urheberrecht eingehalten wird. Deswegen immer im Kopf behalten: Nicht alles, was im Internet frei zugänglich ist, ist tatsächlich (lizenz)frei oder DSGVO-konform. Daher müssen wir immer selbst prüfen, ob wir Urheberrechte, Persönlichkeitsrechte und natürlich den Datenschutz einhalten.

In unserer Linksammlung findet ihr Materialien, mithilfe derer ihr diesen Dschungel an Gesetzen navigieren könnt. Gute Reise!

Weiterführende Medien und Materialien