Künstliche Intelligenz (KI) nimmt zunehmend Raum im Alltag vieler Menschen und in gesellschaftlichen Debatten ein. Der damit einhergehende, unvermeidbare Transformationsprozess von Prozessen und Tätigkeiten im Arbeitsalltag macht auch vor der Sozialen Arbeit keinen Halt. Im Gegenteil: Insbesondere in der Arbeit mit jungen Menschen sind die durch KI bedingten Veränderungen spürbar. Eine Auseinandersetzung mit KI ist somit relevant für Fachkräfte der Jugendsozialarbeit, um lebensweltorientiert arbeiten zu können.
Welche Chancen sowie Herausforderungen birgt KI für die Jugendsozialarbeit? Welche Aspekte sind insbesondere im Hinblick auf ethische und moralische Punkte bei dessen Nutzung zu bedenken? Welche Auswirkungen hat KI für den Umgang und die Arbeit mit jungen Menschen? Auf diese Fragen haben Fachreferent*innen der BAG KJS im Rahmen einer mehrtägigen Gesamtkonferenz Antworten gesucht. Impulse zum Austausch und zur gemeinsamen Diskussion lieferte ein digitaler Fachvortrag von Prof.’ in Dr.’ in Christina Plafky (Berner Fachhochschule), betitelt mit „Künstliche Intelligenz in der Jugendsozialarbeit: Chancen nutzen, Herausforderungen verstehen“.
Praktische Anwendungsmöglichkeiten und Potenziale von KI
Die möglichen Anwendungspotenziale von KI in der Praxis sind vielfältig. Da KI-Tools gut in der Erkennung von Mustern sind, können sie u. a. bei routinemäßigen Aufgaben im administrativen Bereich Unterstützung leisten, wie beispielsweise bei Terminplanungen und Verwaltungstätigkeiten. Diese wiederum können mit Hilfe von KI automatisiert und standardisiert werden. Auch im Bereich der Assistenz und der Entscheidungsunterstützung, insbesondere bei der Diagnostik, können virtuelle, KI-gestützte Systeme zur direkten Unterstützung von Klient*innen eingesetzt werden. Beispielhaft zu nennen wären hier Chatbots. Bei diesen handelt es sich um textbasierte Dialogsysteme, über die sich in natürlicher Sprache mit dem System kommunizieren lässt („chatten“). Im Allgemeinen können vor allem Text- und Sprachverarbeitungsprogramme (z. B. Large Language Models – LLM) sowie Modelle mit Machine Learning oder Deep-Learning-Technologien (z. B. prädiktive Modelle) in der Sozialen Arbeit von Nutzen sein.
Dass Fachkräfte sich mit diesen Themen auseinandersetzen und weiterbilden müssen, ist weitestgehend unumstritten. Wichtig ist, hierbei zwei zentrale Aspekte mitzudenken: Zum einen betrifft dies die Reichweite der durch KI angestoßenen Transformation auf verschiedenen Ebenen. Diese reicht von der Veränderung der sozialen Teilhabe (Makroebene) über die Umstrukturierung von Professionen innerhalb der Sozialen Arbeit und der Formierung neuer Rollenbilder (Mesoebene) bis hin zur Veränderung im Bereich von (zwischenmenschlichen) Interaktionen und Kommunikation (Mikroebene). Zum anderen gestaltet sich die Entwicklung und Implementierung von KI in verschiedenen Bereichen der Sozialen Arbeit sehr unterschiedlich: Während die Diagnostik oder Administration bereits stark durch KI beeinflusst wird und durch diese besser standardisiert und automatisiert werden können, sind die Entwicklungen in anderen Arbeitsfeldern – wie beispielsweise im Streetwork – deutlich zögerlicher.
Herausforderungen und Risiken
Trotz der zahlreichen Vorteile zur Arbeitserleichterung bei Routineaufgaben, passgenauen Interventionen in der Beratung und Begleitung von Klient*innen oder einer besseren Zugänglichkeit von Inhalten, birgt die Nutzung von KI auch Risiken und Herausforderungen. Neben zentralen ethischen Risiken, wie beispielsweise der Verstärkung von Stereotypen und Vorurteilen (‚bias‘), mangelnder Transparenz und Nachvollziehbarkeit von KI-Entscheidungen oder dem Problem, wer im Fall von Fehlentscheidungen oder unpassenden Empfehlungen durch die KI die Verantwortung trägt, ist auch die Einhaltung des Datenschutzes und der Umgang mit sensiblen personenbezogenen Daten eine große Herausforderung. Stichwort ist hier die digitale Souveränität: Es geht um die Frage, in wessen Hände die Daten gelangen, was damit in Folge gemacht wird und wo der Server steht, auf dem die Datenverarbeitung stattfindet. Klare Grundregel sollte hier sein, keine personenbezogenen oder sensiblen Daten in öffentlich zugängliche KI-Tools einzuspeisen – auch nicht in anonymisierter Form.
Eine weitere Herausforderung ist die Gefahr der Vereinfachung oder Verzerrung von Fakten und fachlichen Inhalten: LLM beispielsweise verstehen keine Fakten und können „halluzinieren“. Sie prognostizieren das nächste Wort, basierend auf Wahrscheinlichkeiten. Folge können falsche, erfundene oder nicht überprüfbare Aussagen samt Quellen sein, die so präsentiert werden, als wären sie wahr. Des Weiteren kann Kompetenzverlust bzw. der Verlust kognitiver Fähigkeiten sowie professioneller Handlungsspielräume eine Folge sein: Durch Automatisierung mittels KI-Systemen könnte fachliche Einschätzungen verdrängt oder eingeschränkt werden sowie für Unternehmen der Reiz entstehen, durch KI-Systeme die Anzahl an Mitarbeitenden zu reduzieren. Dabei ist zu bedenken: Bis zu einem gewissen Grad braucht es immer menschlichen Input, um KI sinnvoll nutzen zu können. Ein gänzlicher Ersatz von Fachkräften durch KI ist somit mehr als fraglich.
Unkritische Nutzung, unterschiedliche Wissensstände und fehlender Überblick, welche KI-Systeme wo und wie genau zum Einsatz kommen, können sich in der Praxis als herausfordernd erweisen. Entgegenwirken lässt sich mit Schulungen, der Festlegung klarer Leitlinien zum Umgang mit KI in der jeweiligen Organisation und einer Sensibilisierung für die verschiedenen Formen von KI-Systeme sowie deren Nutzen. Wichtig ist, alle betroffenen Personen einzubeziehen und die verschiedenen Erfahrungsebenen von Mitarbeitenden sowie von Zielgruppen zu berücksichtigen – auch was Unsicherheiten im Umgang und Skepsis gegenüber KI betrifft. In Bezug auf ethische und moralische Prinzipien im Kontext der KI-Nutzung sollte ein besonderes Augenmerk auf die EU-KI-Verordnung (AI-Act) gerichtet werden. Sie ist die erste umfassende Regulierung im Umgang mit KI und hat das Ziel, einheitliche Richtlinien für die Entwicklung und Nutzung von KI in Europa zu etablieren. Dieser vorliegende Ansatz hinsichtlich der Implementierung von KI-Systemen ist risikobasiert. In der Konsequenz unterliegen diese Systeme strengen Anforderungen an Transparenz, Sicherheit und Datenschutz. Orientierung bietet an dieser Stelle auch die von Prof.’in Plafky formulierten Leitlinien zum Einsatz von und Umgang mit KI: fachlich fundiert, ethisch reflektiert, inklusiv gestaltet und regulatorisch abgesichert.
Welche Rolle sollte in diesem Kontext nun die Jugendsozialarbeit spielen? Wenn lebensweltorientiertes Arbeiten und Beziehungsgestaltung in den Mittelpunkt gestellt werden, dann kommt der Haltung von Fachkräften gegenüber ihrer Zielgruppe eine zentrale Rolle zu. Oftmals kennen sich junge Menschen besser mit konkreten KI-Systemen aus, sind aber nicht zwingend für die damit einhergehenden Folgen und Risiken im Umgang mit diesen sensibilisiert. Diese Aufgabe kann wiederrum von Fachkräften übernommen werden. Dafür bedarf es entsprechender Räume zum Austausch und der gemeinsamen Reflexion. Beim Einsatz eines konkreten KI-Systems sollte zudem stets gefragt werden, was durch dessen Nutzen gewonnen werden kann und was möglicherweise verloren gehen könnte.
Technologie als sozialer Aushandlungsprozess
Damit der durch KI bedingte gesellschaftliche Transformationsprozess im besten Sinne der jeweiligen Zielgruppe gestaltet werden kann, sollte KI als ein partizipativer Prozess verstanden und gehandhabt werden. Es handelt sich bei KI um keine rein technische Innovation. Vielmehr ist u. a. die Neuorganisation professioneller Entscheidungsprozesse und Tätigkeiten eine Folge. Fakt ist zudem: KI braucht Kontext. Und Teams brauchen komplementäre Kompetenzen, um spezifische Tools passend anwenden zu können.
Zurzeit wird der Diskurs zu KI sowie dessen Entwicklung mehrheitlich von großen Tech-Konzernen bestimmt. Damit dieser Prozess NPO (Non-Profit-Organisationen), NGO (Nichtregierungsorganisationen) und der Zivilgesellschaft nicht entgleitet, sondern von ihnen mitgestaltet werden kann, bedarf es einer aktiven Herangehensweise an diesen Prozess. Dabei steht folgende, große Frage im Raum: Wie kann auf die exponentiellen Entwicklungen der Zukunft so reagiert werden, dass KI neues und innovatives Denken unterstützt, das Raum für eine von Menschenwürde, Gleichberechtigung und sozialer Gerechtigkeit geprägte Gesellschaft schafft? Vielfältige Nutzer*innenperspektiven in diesen Entwicklungsprozess zu integrieren, ist hierfür entscheidend. Es gilt daher, am Thema zu bleiben. KI wird nicht mehr weggehen. Jetzt gibt es noch die Chance, im Rahmen unserer Möglichkeiten den Prozess mitzugestalten und Einfluss zu nehmen. Dies sollten wir nutzen – und alle sind dabei gefordert.
Autorin: Mareike Klemz
