KI in der Jugendhilfe ohne Richtlinie ist keine gute Idee Wie Träger den Einsatz von Künstlicher Intelligenz rechtssicher und praxisnah regeln

Viele Einrichtungen und Dienste der Kinder- und Jugendhilfe nutzen Künstliche Intelligenz bereits im Alltag. Mitarbeitende lassen sich Berichte vorstrukturieren, fassen Besprechungsprotokolle zusammen oder bereiten mit einem Sprachmodell ein Hilfeplangespräch vor. In der Verwaltung laufen Prozesse, die technisch längst KI-gestützt sind, ohne dass irgendjemand sie so nennen würde. Das klingt nach pragmatischem Fortschritt. Es ist vor allem ein ungeregeltes Feld.

Die entscheidende Frage, die in den meisten Häusern niemand beantworten kann, lautet: Wer trägt die Verantwortung, wenn ein KI-System eine fehlerhafte Einschätzung liefert? Nicht als philosophische Übung, sondern ganz konkret. Wenn ein Sprachmodell eine Falleinschätzung vorstrukturiert, die eine Fachkraft unreflektiert übernimmt, liegt die Verantwortung dann bei der Fachkraft, bei der Leitung, beim Träger? Solange dazu keine schriftliche Regelung existiert, ist die Antwort in der Praxis unklar. Und Unklarheit bei Entscheidungen über Kinder und Jugendliche ist kein akzeptabler Zustand.

Der EU Artificial Intelligence Act gibt Trägern dafür einen verbindlichen Rahmen, und er gilt bereits. Er verlangt klare Zuständigkeiten, nachvollziehbare Nutzungsgrundsätze und dokumentierte Kontrollen überall dort, wo KI zum Einsatz kommt. Das betrifft die Jugendhilfe ganz unmittelbar. Adressatinnen und Adressaten von Jugendhilfeleistungen sind Kinder und Jugendliche mit einem besonderen Schutzbedürfnis. Entscheidungen über ihre Hilfe dürfen weder in der Falleinschätzung noch in der Ressourcensteuerung im Hintergrund unbesehen an ein System abgegeben werden. Transparenz gegenüber Mitarbeitenden, Klient*innen und Aufsichtsbehörden gehört damit zur fachlichen Aufgabe jedes Trägers.

Wer jetzt denkt, das gelte nur für hochkomplexe KI-Systeme, irrt. Auch ein Sprachmodell, das Texte formuliert, fällt unter den AI Act, sobald es in Prozessen genutzt wird, die Entscheidungen vorbereiten oder beeinflussen. Die Grenze ist breiter gezogen, als viele Träger annehmen. Das merkt man spätestens, wenn man versucht, alle KI-gestützten Anwendungen im eigenen Haus aufzulisten. Diese Liste fällt regelmäßig deutlich länger aus als erwartet.

Genau an diesem Punkt setzt die KI-Richtlinie für Einrichtungen und Dienste der Jugendhilfe an, die ich im IJOS-Shop als anpassbare Word-Vorlage mit elf Seiten anbiete. Die Vorlage definiert Zuständigkeiten, Nutzungsgrundsätze und Kontrollmechanismen für den verantwortungsvollen Umgang mit KI in der pädagogischen und der administrativen Praxis. Sie berücksichtigt die besonderen Schutzbedürfnisse von Kindern und Jugendlichen und orientiert sich dabei an den Anforderungen des AI Acts.

Wer schon einmal versucht hat, aus einem allgemeinen Compliance-Muster etwas zu entwickeln, das zum eigenen Träger passt, kennt den Aufwand dieser Übersetzungsarbeit. Die Vorlage nimmt diesen Schritt vorweg. Dass sie als Word-Datei kommt, ist keine technische Entscheidung, sondern eine inhaltliche. Eine Richtlinie, die zur eigenen Einrichtung nicht passt, wird nicht gelebt. Häuser mit stationären, ambulanten oder offenen Angeboten können ihre konkreten Abläufe ohne großen Aufwand einarbeiten.

Für die Einführung empfehle ich ein Vorgehen, das ich in der Beratung regelmäßig einsetze und das verlässlich funktioniert. Geben Sie die Vorlage nicht als Erstes in die Leitungsrunde. Rufen Sie zunächst eine kleine Arbeitsgruppe zusammen, in der Fachkräfte und Mitarbeitende aus der Verwaltung gemeinsam durchgehen, welche KI-Anwendungen im Träger tatsächlich genutzt werden. Nehmen Sie sich dafür anderthalb Stunden. Das Ergebnis dieser Bestandsaufnahme überrascht fast immer, weil viele Werkzeuge im Alltag schlicht nicht als KI wahrgenommen werden, obwohl sie es im Sinne des AI Acts sind. Auf dieser Grundlage lässt sich die Vorlage dann gezielt befüllen, weil man weiß, wovon man eigentlich redet.

Erst wenn diese Bestandsaufnahme steht, lohnt sich das Gespräch in der Leitungsrunde. Dann geht es nicht mehr um ein abstraktes Thema, sondern um konkrete Systeme, konkrete Prozesse und konkrete Verantwortlichkeiten im eigenen Haus. Die Diskussion wird dadurch deutlich kürzer und ergebnisoffener.

So entsteht eine verlässliche Grundlage, mit der Leistungserbringer die gesetzlichen Anforderungen des AI Acts nachvollziehbar umsetzen und gegenüber Aufsichtsbehörden, Kostenträgern und den betreuten jungen Menschen belegen können, wie sie mit KI umgehen. Für Einrichtungen und Dienste ohne eigene Regelung ist die Vorlage ein guter Einstieg. Wer bereits eine Hausregelung hat, nutzt sie sinnvollerweise als Abgleich mit den Anforderungen des AI Acts, denn viele ältere Regelungen decken diese schlicht nicht ab.

Die Arbeitshilfe ist direkt im IJOS-Shop erhältlich unter https://ijos.shop/produkt/ki-richtlinie-fuer-einrichtungen-und-dienste-der-jugendhilfe-eu-artificial-intel-173. 

IJOS-Mitglieder können das KI-Richtlinienmuster kostenfrei im Kundenportal downloaden.

Passend dazu: Datenschutzberatung · Fallaktenarchiv