Seit einigen Jahren nimmt der Einsatz von Künstlicher Intelligenz (KI) in gesellschaftlichen Anwendungskontexten kontinuierlich zu (Schneider/Weber 2024). Insbesondere seit der Veröffentlichung von Large Language Modellen (LLM) wie ChatGPT, einem äußerst leistungsfähigen Sprachmodell von OpenAI, mit welchem Nutzende in natürlicher Sprache kommunizieren können, werden die Potenziale der KI für weite Teile der Bevölkerung sichtbar und erlebbar. Schnell ein passendes Bild für einen Text erstellen oder einen vorhandenen Text so umformulieren lassen, dass er für verschiedene Zielgruppen leichter verständlich ist? Das ist mit diesen Sprachmodellen kein Problem und für einige Menschen schon längst eine liebgewonnene Praxis im Alltag geworden, um Prozesse zu vereinfachen, zu beschleunigen oder um kreative Arbeiten zu unterstützen. Wir begegnen KI jedoch nicht nur in Form von generativer KI, also künstlicher Intelligenz, die aus vorhandenen Daten neue Inhalte wie Bilder, Texte, Musik oder gar Code erzeugen kann, sondern vor allem als solche KI, die vorhandene Daten analysiert, auswertet, interpretiert und daraus ggf. Empfehlungen ableitet oder eigene Handlungen intelligent unterstützt.

In der Tat lassen sich verschiedene KI-Anwendungen unterscheiden, die im Bereich der Teilhabeplanung und Inklusion eingesetzt werden könnten: Da ist erstens die bereits erwähnte generative KI, mit deren Hilfe neue Inhalte erstellt werden können. Obwohl weder der Ursprung noch das Ziel für die Entwicklung generativer KI in der Förderung von Inklusion liegen, bietet ihr Potenzial dennoch die Möglichkeit, zur Förderung digitaler Barrierefreiheit eingesetzt zu werden. Digitale Barrierefreiheit ist in Deutschland u. a. in dem Barrierefreiheitsstärkungsgesetz (BFSG) verankert, welches für „Produkte [gilt], die nach dem 28.06.2025 in den Verkehr gebracht werden“ (Der Beauftragte der Bundesregierung für Informationstechnik 2025), und die Rechte der Verbraucher:innen stärken soll. Das BFSG soll digitale Teilhabe ermöglichen, indem zukünftig digitale Barrieren wie unübersichtliche Webseiten oder fehlende Tastaturbedienung reduziert werden. Zudem wird mit dem Gesetz auch adressiert, dass Informationsdarstellungen künftig nicht nur über einen einzigen Sinnes- und Informationsweg erfolgen, sondern verschiedene Optionen für die Informationsverarbeitung angeboten werden. Beispiele für digitale Barrierefreiheit durch generative KI stellen automatisch erstellte Bildbeschreibungen oder Untertitel in digitalen Medien, Übersetzungen in einfache Sprache oder intelligente Vorlesefunktionen dar, die es Menschen mit Behinderungen ermöglichen, digitale Angebote gleichberechtigt(er) zu nutzen und ggf. an ihre Bedürfnisse anpassen zu können.

Zweitens gibt es mittlerweile eine Vielzahl an assistiven Technologien, die mithilfe von KI unterstützt werden und dadurch eine verbesserte und personalisiertere Anpassung an die Bedarfe und Bedürfnisse von Menschen mit Behinderung ermöglichen. Diese KI-gestützten Assistenzsysteme und KI-basierten assistiven Technologien gehören in den Bereich der digitalen assistiven Technologien bzw. digitalen Assistenzsysteme und zeichnen sich dadurch aus, dass bei ihnen Verfahren und Methoden der KI zum Einsatz kommen. Allein das vom Bundesministerium für Arbeit und Soziales (BMAS) bis 2027 geförderte Projekt „KI Kompass Inklusiv“ hat in seinem ersten Technologie-Monitor 151 KI-gestützte Assistenztechnologien recherchiert[1] , die zur Unterstützung der beruflichen Teilhabe, d. h. in Schule, Ausbildung oder am Arbeitsplatz eingesetzt werden können. Die Autorinnen differenzieren acht verschiedene Arten der Unterstützung, wobei jene zur Wahrnehmung (23 Prozent) und Kommunikation (18 Prozent) die höchsten Anteile ausmachen (Blanc/Beudt 2022). Weitere Arten der Unterstützung sind steuern (14 Prozent), arbeiten (11 Prozent), körperlich unterstützen (11 Prozent), navigieren (10 Prozent), lernen (8 Prozent) und psychisch unterstützen (5 Prozent) (Blanc/Beudt 2022). Betrachtet man die aufgelisteten Bereiche der Unterstützung und die einzelnen Anwendungen, so ist die Grenze zu den zuvor genannten generativen KI-Anwendungen bei einigen KI-basierten assistiven Technologien durchaus fließend. Die Produkte sind bzw. werden jedoch spezifisch für Menschen mit Behinderungen entwickelt und sind folglich auf deren Bedürfnisse abgestimmt.

Neben diesen KI-basierten Anwendungen, welche die betroffenen Personen adressieren und von diesen zur Förderung und Unterstützung von Teilhabe eingesetzt werden können, wird es drittens in absehbarer Zukunft eine zunehmende Anzahl von KI-basierten Anwendungen geben, welche die Organisation, Administration, Planung und Durchführung von Teilhabeleistungen unterstützen und sich damit nicht direkt an die Menschen mit Behinderung wenden, sondern diese nur indirekt über weitere Akteur:innen innerhalb der Teilhabeplanung adressieren. Solche Systeme sind bereits seit einigen Jahren zunehmend Teil der professionellen Praxis in der Teilhabeplanung und angrenzenden Arbeitsbereichen. Ein medial sehr bekanntes Beispiel stellt hierbei das AMS-Arbeitsmarktchancen-Modell aus Österreich dar, ein algorithmisches System der dortigen Arbeitsämter zur Beurteilung der Integrationschancen von arbeitssuchenden Menschen (Holl u. a. 2018). Obgleich das System nicht explizit die Teilhabeleistungen von Menschen mit Behinderung beurteilt, war nach der Veröffentlichung des entsprechenden Berichtes schnell ersichtlich, dass bestimmte Bevölkerungsgruppen durch den Algorithmus schlechter bewertet wurden als andere. Allhutter und Mager (2020) haben entsprechend herausgestellt, dass das System – ähnlich wie vergleichbare Systeme der Entscheidungsunterstützung in gesellschaftlichen Anwendungskontexten (Schneider/Weber 2024) – zu struktureller und sozialer Ungleichheit beitragen könne.

Der vorliegende Beitrag wird vertiefend auf die skizzierten KI-basierten Systeme für Inklusion eingehen, insbesondere auf KI-basierte assistive Technologien und KI-basierte Anwendungen zur Beurteilung von Teilhabeleistungen. Hierbei werden sowohl die Chancen als auch die Risiken herausgearbeitet, um das Potenzial KI-basierter Technologien für die Inklusion zu prüfen.

__
[1] Online unter: https://ki-kompass-inklusiv.de/wissen/ki-gestuetzte-assistenztechnologien-fuer-menschen-mit-behinderungen/ (abgerufen 09.12.2025); Stand Oktober 2024. ↑

Der Bedarf an assistiven Technologien ist bereits heutzutage essenziell. Gemäß der World Health Organization (WHO) nutzen weltweit mehr als 2.5 Milliarden Menschen eine oder mehrere assistive Technologien, Tendenz in den kommenden Jahren steigend (WHO 2024). Mit Blick auf die Onlinesuche der EASTIN Global Assistive Technology Information Network wird deutlich, dass der Vielfalt assistiver Technologien kaum Grenzen gesetzt sind[2]: Hier finden sich allerhand klassische Hilfsmittel bspw. zum Abdichten des Stomas, Badelifte, Hörhilfen, Insulinpumpen oder auch Notfallmeldesysteme. Zudem finden sich hier Systeme, die mit KI unterstützt werden, bspw. KI-basierte Software zur Detektion von körperlichen Belastungen während des arbeitsbedingten Hebens und Tragens oder Software, die bei der Text- und Multimedia-Verarbeitung unterstützt, indem sie komplizierte Texte in leichte Sprache umwandelt. In Deutschland listet REHADAT, ein Projekt des Instituts der deutschen Wirtschaft Köln e. V., gefördert vom Bundesministerium für Arbeit und Soziales (BMAS), auf dem Portal REHADAT-Hilfsmittel allein 9.700 Hilfsmittel und technische Arbeitshilfen von 3.000 Herstellenden oder Vertriebsfirmen auf[3], wobei man vereinzelt nach elektronischen oder digitalen Hilfsmitteln suchen kann.

Der Einsatz von KI im Bereich der assistiven Technologien wird von manchen Autor:innen als neue Ära von Barrierefreiheit ausgelobt (Pratt 2024). Tatsächlich heben auch die Autor:innen eines kürzlich veröffentlichten Reviews hervor, dass KI eine immer zentralere Rolle bei der Verbesserung der Mobilität, in der Gesundheitsdiagnostik und bei der kognitiven Unterstützung von Menschen mit Behinderungen einnehme (Giansanti/Pirrera 2025). Sie thematisieren, dass KI insbesondere in traditionelle Hilfsmittel integriert werde und bspw. in intelligenten Rollstühlen, Prothesen oder Exoskeletten zu finden sei, um intuitivere und reaktionsschnellere Bewegungsabläufe zu unterstützen. Man finde KI bei Systemen, die den Zugang zu Informationen verbessern, bspw. Bildschirmlesegeräte, Braille-Geräte (also Geräte zum Schreiben oder Lesen von Blindenschrift) oder in Systemen, die Echtzeit-Untertitel ermöglichen. Zudem gibt es eine Vielzahl unterschiedlicher Apps, verschiedene Lernsoftware und Sprachsynthese-Technologien, die geschriebene Texte in gesprochene Sprache umwandeln. Mit dem Aufkommen von sozialen, teils humanoiden Robotern finden sich KI-basierte Hilfsmittel bspw. auch in der Therapie von Kindern mit Autismus-Spektrum-Störung wieder (wie der QT-Roboter, entwickelt an der Universität Luxemburg), um die kognitive Entwicklung des Kindes und deren Fertigkeiten sozialer Interaktionen zu fördern.

Durch KI, so Giansanti und Pirrera (2025), erweitere sich das Konzept assistiver Technologien zu intelligenten Systemen, die lernen und sich dynamisch an die individuellen Bedarfe und Bedürfnisse ihrer Nutzenden anpassen könnten, anstatt lediglich statische bzw. einheitliche Lösungen anzubieten. Inwiefern die zunehmende Digitalisierung damit auch das Bild von Behinderung beeinflussen könnte, wenn bestimmte Behinderungen durch KI-basierte Artefakte einen gesellschaftlichen Wandel erfahren würden – ähnlich wie das Tragen einer Brille oft nicht mehr mit einer Sehbehinderung assoziiert werde (Kreidenweis 2018) – ist hierbei noch nicht abzuschätzen. Nierling und Maia (2020) verweisen zurecht darauf, dass assistive Technologien nur einige der sozialen Barrieren adressieren können, jedoch nicht alle von ihnen. Dies komme nicht zuletzt dadurch, so die Autorinnen, weil häufig vor allem technische und ergonomische Anforderungen, sowie die Anforderungen an die Herstellung, im Fokus stünden. Weniger beachtet werden würden die Erfahrungen der Nutzenden, technische Ästhetik sowie deren Interaktionen mit der Umwelt (Nierling/Maia 2020). Ebenfalls unklar ist, inwiefern durch die Verfügbarkeit KI-basierter assistiver Technologien auch der gesellschaftliche Druck zu deren Nutzung entstehen bzw. sich steigern könnte, d. h. ob die Wahlfreiheit von Menschen mit Behinderung durch die Ubiquität KI-basierter assistiver Technologien infrage gestellt werden würde (Nierling/Maia 2020), wie dies einige Autor:innen in Bezug auf neue Diagnostikverfahren postuliert haben (vgl. Savulescu 2001, für die Präimplantationsdiagnostik).

__
[2] Online unter: https://www.eastin.eu/de-de/searches/products/index (abgerufen 09.12.2025). ↑

[3] Online unter: https://www.rehadat-hilfsmittel.de/de/ (abgerufen 09.12.2025); Stand Oktober 2025. ↑

Neben KI-basierten Systemen, von deren Unterstützungsleistung Menschen mit Behinderung direkt profitieren können, gibt es einen wachsenden Markt an KI-basierten Systemen, die bei der Organisation, Administration, Planung und Durchführung von Teilhabeleistungen eingesetzt werden können bzw. könnten. Einige dieser Systeme begegnen uns bereits in anderen Anwendungskontexten: So helfen KI-basierte Terminfindungstools dabei, optimale Zeitfenster für anstehende Meetings zu analysieren und können – je nach Modell – auch eigenständig und proaktiv bestimmte Terminvorschläge per Mail versenden und die finale Terminierung übernehmen, bspw. die:der virtuelle KI-Assistent:in Clara-AI. Teilweise können solche virtuellen Assistent:innen zahlreiche, weitere Tätigkeiten übernehmen oder diese (punktuell) unterstützen, bspw. menschenähnliche Dialoge im Kundenservice mithilfe von Chatbots gestalten, automatisiert auf Telefonanfragen reagieren oder eingehende E-Mail-Anfragen mittels KI beantworten. Mit diesen virtuellen Assistent:innen könnten zukünftig bestimmte Anfragen bei Leistungsträger:innen routinemäßig unterstützt und die teils sehr zeitintensiven Abstimmungen im sozialrechtlichen Dreieck erleichtert werden.

Den genannten Beispielen gemeinsam ist, dass diese KI-basierten Systeme nicht spezifisch für die Teilhabeplanung entwickelt wurden, sondern in verschiedenen Anwendungskontexten eingesetzt werden können. Spezielle Entwicklungen, die sozialarbeiterisches oder heilpädagogisches Handeln bzw. insbesondere Aspekte der Teilhabeplanung für Menschen mit Behinderung unterstützen, sind stattdessen bislang rar gesät, obgleich sich hier in den letzten Jahren durchaus einiges entwickelt. Vereinzelte Pilotprojekte zu KI-basierten Systemen ließen sich in der Tat bereits vor einigen Jahren finden: Zu erwähnen ist hier u. a. das Institut für E-Beratung der Technischen Hochschule Nürnberg, welches KI-basierte Lösungen wie KI-Assistent:innen, virtuelle Klient:innen oder Chatbots mitentwickelt. Weiterhin wird sich seit einigen Jahren sehr intensiv mit den Auswirkungen von KI-basierten Systemen auf die Entscheidungsfindung und das professionelle Ermessen auseinandergesetzt, bspw. im Projekt „Eine Krise des Ermessens? Auswirkungen technischer Standardisierungen auf den Ermessensspielraum in der Sozialen Arbeit“ der Hochschule für Soziale Arbeit FHNW oder in einer Vielzahl an vornehmlich theoretischen Schriften zu dem Thema Digitalisierung und KI (siehe bspw. Campayo 2020; Evans/Hilbert 2020; Kreidenweis 2018; Kutscher 2019; Waag/Rink 2023).

Das vom Ministerium für Kultur und Wissenschaft des Landes Nordrhein-Westfalen geförderte Projekt „Maschinelle Entscheidungsunterstützung In wohlfahrtsstaatlichen Institutionen: Nutzungsoptionen, Implikationen und Regulierungsbedarfe (MAEWIN)“ (2018-2022)[4] widmete sich ebenfalls Aspekten der Professionalisierung sowie den nicht intendierten ethischen, sozialen und professionsspezifischen Implikationen von KI-basierten Systemen der Entscheidungsfindung (engl. Algorithmic Decision-Making, ADM bzw. Entscheidungsunterstützungssysteme, engl. Decision Support Systems, DSS). Das Projekt ist insofern eine Rarität, da es eines der ersten Projekte innerhalb der deutschsprachigen Landschaft ist, welches die Teilhabeplanung als Anwendungsfeld von ADM-Systemen wählte und hierbei einen empirischen Erkenntniszugang verfolgte. Denn der bisherige Diskurs zu KI-basierten Systemen innerhalb der deutschsprachigen Sozialen Arbeit focussierte vornehmlich den Kinderschutz und ist hier teils (noch immer) auf den internationalen Diskurs und seine empirischen Ergebnisse angewiesen (Ackermann 2021; Bastian 2012; Dahmen 2021; Freres u. a. 2019). In der Tat gibt es international eine langjährige Diskussion, bspw. wird ihr Einsatz zur Detektion von Kindeswohlgefährdung intensiv diskutiert (Fitch 2007; Gillingham 2019; Keddell 2019). Gleichwohl sind algorithmische Systeme, die bspw. eingesetzt werden können, um Diagnosen bzw. Anamnesen zu unterstützen oder Interventionsvorschläge zu generieren, innerhalb Deutschlands bereits seit einigen Jahren in anderen Anwendungskontexten bekannt (Chiusi u. a. 2020; Spielkamp 2019) und werden dort bereits eingesetzt, bspw. in der Medizin (Bundesärztekammer 2021; Deutscher Ethikrat 2023, S. 190-218). Der sozialarbeiterische Diskurs zu KI-basierten, algorithmischen Systemen lässt sich als ambivalent charakterisieren (Schneider 2022): Während sie einerseits als Reflexionsunterstützung (Die Kinderschutz-Zentren 2011; Schneider/Seelmeyer 2019) und hilfreiches Mittel bei untypischen Fällen geschätzt werden (Monnickendam u. a. 2005; Shiller/Strydom 2018), werden sie andererseits ob der Gefahr der Vernachlässigung des individuellen Einzelfalls (Galuske/Rosenbauer 2008; Merchel 2005) oder ihrer falsch-positiver und falsch-negativer Ergebnisse und damit einhergehender, möglicher Stigmatisierungen kritisiert (Barocas/Boyd 2017; Gillingham/Graham 2016; Schrödter u. a. 2020; van der Put u. a. 2016).

In dem genannten Projekt MAEWIN wurden mithilfe einer prospektiven Technikfolgenabschätzung sowohl mögliche Visionen für den zukünftigen Einsatz von KI-basierten Systemen generiert als auch deren Implikationen auf Theorie und Praxis sozialarbeiterischen Handelns diskutiert. Im Fokus standen hierbei die Perspektiven von Fachkräften und Mitarbeitenden wohlfahrtsstaatlicher Institutionen, also von Leistungsträger:innen und Leistungserbringer:innen. Im Rahmen der Studie wurden durch die 20 interviewten Personen sieben mögliche Funktionen skizziert, bei denen KI-basierte Systeme im Prozess der Teilhabeplanung unterstützend wirken könnten:

• Aktuellen Workflow unterstützen: Alltägliche Prozesse wie die Kartierung des Sozialraums, Erinnerungen an Termine, Prüfung formaler Kriterien oder Zeiterfassung vereinfachen und effizienter durchführen, bspw. im Rahmen der formalen Prüfung des Antrags auf Teilhabeleistungen, während der Ziele- und Maßnahmenplanung und deren Durchführung.
• Spezifisches Wissen bereitstellen: Rechtliche Beratungen oder medizinische Fachlexika verfügbar machen, um fundiertere Entscheidungen zu ermöglichen, bspw. im Rahmen der formalen Prüfung des Antrags auf Teilhabeleistungen, während der Einschätzung des Bedarfs oder der Durchführung von Teilhabeleistungen.
• Dokumentation zusammenfassen: Fachliche Verlaufsdokumentation innerhalb wohlfahrtsstaatlicher Einrichtungen oder die Prosa-Texte leistungsberechtigter Personen inhaltlich aufbereiten und auswerten, um den individuellen Bedarf bzw. die mögliche Hilfebedarfsgruppe zu identifizieren, insbesondere während der Einschätzung des Bedarfs an Teilhabeleistungen.
• Erfahrungswissen bereitstellen: Statistisches Organisationswissen (bspw. hinsichtlich durchschnittlicher Zeiteinheiten für bestimmte Leistungen) aufbereiten oder Handlungsoptionen im Sinne eines intrakollektiven Austauschs aufzeigen, insbesondere im Rahmen der Ziele- und Maßnahmenplanung von Teilhabeleistungen.
• Prognostik: Ereignisse und zukünftige Entwicklungen detektieren oder abschätzen bzw. Maßnahmen identifizieren, die bei ähnlichen Fallkonstellationen hilfreich waren, bspw. im Rahmen der Ziele- und Maßnahmenplanung, Durchführung der Teilhabeleistungen oder deren Evaluation.
• Subjektive Urteile objektivieren: Mithilfe von Vergleichswerten zukünftige Entscheidungen fundieren sowie Arbeitshilfen vereinheitlichen, insbesondere im Rahmen der Einschätzung des Bedarfs an Teilhabeleistungen.
• Fallgruppen identifizieren: Kritische Fälle bzw. definierte Fallgruppen detektieren, insbesondere im Rahmen der Einschätzung des Bedarfs an Teilhabeleistungen.

Dass die interviewten Personen eine Vielzahl an möglichen Funktionen identifizieren können, bei denen KI-basierte Systeme sie unterstützen könnten, ist in Anbetracht des bereits hohen Stellenwerts von fachlicher Dokumentation und Bedarfsermittlungsinstrumenten innerhalb der Teilhabeplanung zunächst wenig überraschend. Bemerkenswert ist vielmehr, dass solche Systeme nicht in Konkurrenz zu vorhandenen Hilfsmitteln wahrgenommen werden, sondern als deren Ergänzung. Das spricht dafür, dass die antizipierten Funktionen auf Bedürfnisse verweisen könnten, die in der gegenwärtigen Praxis innerhalb der Teilhabeplanung als verbesserungs- bzw. optimierungswürdig wahrgenommen werden. Anzumerken ist zudem, dass die skizzierten Visionen bereits im Jahr 2020 und damit wesentlich vor der Veröffentlichung von ChatGPT im November 2022 erhoben wurden. Das verdeutlicht, dass Vorstellungen darüber, inwiefern die Soziale Arbeit durch den Einsatz von KI-basierten Systemen profitieren könnte, keine Entwicklung der letzten paar Jahre darstellen, sondern dass ihre Potenziale – damals als marginalisierte Visionen – bereits vor dem jüngsten KI-Hype artikuliert und empirisch erhoben werden konnten.

Stellen sich die interviewten Personen vor, sie würden mit einem KI-basierten System in relevanten Entscheidungsprozessen zusammenarbeiten (müssen), so lassen sich drei verschiedene soziale Rollen identifizieren, die den KI-basierten Systemen zugesprochen werden: Reflexionstool, Empfehlungssystem und Zweitmeinung. Als Reflexionstool nutzen Fachkräfte die bereitgestellten Informationen wie Analysen oder fachspezifische Wissensdatenbanken, um sie in Abwägungsprozessen mit ihren eigenen Überlegungen zu vergleichen und so zu einem Urteil zu kommen. In diesem Verständnis stellen die Systeme lediglich ein weiteres Element in einem umfangreichen Methodenpool dar und sind mit der bisherigen professionellen Praxis vereinbar. Während die Hilfestellung bei KI-basierten Systemen als Reflexionstool noch eher passiv ist, ändert sich dies in aktive Hilfestellung, wenn die Systeme als Empfehlungssystem oder Zweitmeinung wahrgenommen werden. Als Empfehlungssystem nutzen Fachkräfte die Analysen der KI-basierten Systeme so, als würden ihnen die Systeme fachlich angemessene Schlussfolgerungen, Entscheidungen oder Lösungen präsentieren. Die Personen erwarten, dass ihnen die Systeme fachliche Unterstützung bei bestimmten Prozessschritten anbieten oder sie auf Unstimmigkeiten aufmerksam machen. Insgesamt erinnert diese Wahrnehmung KI-basierter Systeme damit an eine Form individueller Supervision, die mithilfe der KI möglich wäre. Im positiven Sinne wirkt dies empowernd und motivierend; zumeist rufen diese Vorstellungen jedoch Verunsicherung bei den interviewten Personen hervor, insbesondere in Bezug auf die eigenen Wissensbestände, auf die eigenen Fähig- und Fertigkeiten oder die eigene Rolle im Entscheidungsprozess (vgl. auch Krug u. a. 2020). Nehmen die interviewten Personen die KI-basierten Systeme hingegen als Zweitmeinung wahr, verbinden sich die beiden vorherigen Perspektiven: Die algorithmischen Ergebnisse werden ergänzend oder kontrastierend zum eigenen Urteil wahrgenommen. Je nach Situation kann dies durch die Fachkraft positiv, im Sinne eines kollegialen Austausches, oder negativ, als Infragestellung des eigenen Wissens, interpretiert werden. Entsprechend können sich interviewte Personen mit einem Kampf um Deutungshoheit konfrontiert sehen, wenn sie KI-basierte Systeme als Zweitmeinung wahrnehmen.

Bemerkenswert bei den hier skizzierten sozialen Rollen ist, dass solche Systeme kaum in partizipativen Entscheidungsprozessen mit leistungsberechtigten Personen antizipiert wurden, obgleich deren Perspektive – darin waren sich die interviewten Personen durchaus einig – elementar in der Beurteilung und Festlegung von Teilhabeleistungen ist. Die interviewten Personen forcierten vielmehr ein sogenanntes konventionelles Setting (Braun u. a. 2020), bei welchem die Systeme die Entscheidungsfindung professioneller Fachkräfte unterstützen. Die Leerstelle der von den algorithmischen Analysen betroffenen Personen – im Falle der Teilhabeplanung: der leistungsberechtigten Personen – stellt leider keinen Einzelfall dar. In der Medizin, wo solche Systeme bereits seit etlichen Jahren diskutiert werden, findet erst seit Kurzem ein Diskurs darüber statt, wie auch Patient:innen bei der Gestaltung, Implementierung und Nutzung algorithmischer Systeme der Entscheidungsfindung eingebunden werden können (bspw. Funer u. a. 2024). Für den verwandten Bereich der Medizin und Pflege stellen Schneider u. a. (2025) heraus, dass es zu Loyalitätskonflikten kommen kann, wenn Patient:innen KI-basierten Systemen die soziale Rolle der Zweitmeinung zusprechen. Die von den Entscheidungen betroffenen Personen sind dann unsicher, ob sie mehr auf die algorithmischen Analysen oder auf das Wissen der professionellen Fachkraft vertrauen sollen und können diesen internen Konflikt für sich kaum auflösen (Schneider u. a. 2025). Auch für Anwendungen in der Teilhabeplanung stellen sich ähnliche Fragen: Soll es einen Vorrang des menschlichen Urteils geben und wenn ja, wie kann dieser gewährleistet werden? Und wessen menschlichen Urteil ist hierbei ggf. Vorrang zu gewähren? Wie werden mögliche Loyalitätskonflikte adressiert und ggf. aufgelöst? Gegenwärtige und zukünftige Fachkräfte sollten folglich nicht nur entsprechende Fähigkeiten und Fertigkeiten im Umgang mit Data Literacy[5] besitzen, um die Ergebnisse KI-basierter Systeme korrekt zu interpretieren, sondern auch über Strategien und Kompetenzen verfügen, um deren Nutzung in partizipativen Entscheidungsprozessen gut begleiten zu können.

__
[4] Online unter http://graduiertenkolleg-digitale-gesellschaft.nrw/maewin/ (abgerufen 12.12.2025). ↑

[5] Nach Schüller u. a. (2019, S. 26) stellt Data Literacy „das Cluster aller effizienter Verhaltensweisen und Einstellungen für die effektive Durchführung sämtlicher Prozessschritte zur Wertschöpfung beziehungsweise Entscheidungsfindung aus Daten“ dar. ↑

Die vorangegangenen Ausführungen unterstreichen, dass KI erhebliche Potenziale für Inklusion und Teilhabe bietet: Einerseits gibt es zahlreiche assistive Technologien, die mithilfe von KI intelligenter und effektiver eingesetzt werden könnten, andererseits unterstützen Anwendungen generativer KI dabei, digitale Barrieren abzubauen. Hinzu kommt die wachsende Anzahl der KI-basierten Systeme der Entscheidungsfindung, die die Organisation, Administration, Planung und Durchführung von Teilhabeleistungen unterstützen könnten. Obgleich damit bereits ein breites Spektrum an Anwendungsmöglichkeiten skizziert ist, kratzen diese Ausführungen noch an der Oberfläche der zukünftigen Möglichkeiten.

Zugleich wird deutlich, dass auch bei KI-basierten Anwendungen die Gefahr besteht – ähnlich wie bei jeder anderen, technischen Errungenschaft – dass die Bedarfe und Bedürfnisse der Nutzenden, d. h. der professionellen Fachkräfte und leistungsberechtigten Personen, zugunsten von technischen Möglichkeiten in den Hintergrund geraten. Gerade leistungsstarke Anwendungen bergen zudem das Risiko, dass ihre Implementierung und Nutzung als selbstverständlich vorausgesetzt werden könnte, sodass die Gefahr einer gesellschaftlichen Normierung für deren Nutzung möglich ist. Darüber hinaus wird KI-basierten Systemen per se oft eine normierende Funktion zugeschrieben, bspw. durch die Annahme, dass sie objektiv oder neutral seien. Dadurch könnten sie jedoch zu Stigmatisierungen und Diskriminierungen beitragen oder diese verstärken (Orwat 2020). Die Erforschung von nicht intendierten ethischen und sozialen Implikationen scheint daher dringend geboten und sollte hierbei nicht nur die Perspektiven von professionellen Fachkräften, sondern auch von leistungsberechtigten Personen umfassen. Des Weiteren wären auch rechtliche, professionsspezifische, ökologische und ökonomische Implikationen zu untersuchen.

Darüber hinaus sollte die langfristige Wirkung von KI auf soziale Strukturen und Machtverhältnisse in der Teilhabeplanung untersucht werden, um sicherzustellen, dass bestehende Ungleichheiten nicht verstärkt werden bzw. neue Abhängigkeiten vermieden werden. Ebenso ist es elementar, dass die Nutzung von KI-Systemen selbst barrierefrei gestaltet wird, damit alle Menschen gleichermaßen von ihren Potenzialen profitieren können. Die Förderung digitaler Kompetenzen bei professionellen Fachkräften, aber auch bei leistungsberechtigten Personen, ist dabei ein zentraler Baustein, um Missverständnisse und falsche Erwartungen an KI-basierte Systeme zu vermeiden. Schließlich sollte die aktive Partizipation der (zukünftigen) Nutzenden, d. h. insbesondere von professionellen Fachkräften und von leistungsberechtigten Personen, bei der Entwicklung und Implementierung von KI-Systemen sichergestellt werden, um deren Bedarfe und Bedürfnisse angemessen zu berücksichtigen und die Technologien inklusiv zu gestalten.