Potenziale und Grenzen künstlicher kognitiver Systeme
Künstliche kognitive Systeme sind IT-Systeme. Sie können ihre physische ebenso wie ihre virtuelle Umgebung sensorisch erfassen, interpretieren und aktiv modifizieren, um daraus Lösungsstrategien auf Basis künstlicher Intelligenz (KI) für ein breites Spektrum an Aufgaben zu generieren. Obwohl solche Systeme bereits ihr enormes Potential aufgezeigt haben, kann sich dieses jedoch nur in der Zusammenarbeit mit dem Menschen voll entfalten. Die Arbeitsgruppe beschäftigt sich mit verschiedenen Architekturen künstlicher kognitiver Systeme, mit ihren Eigenschaften und ihrer Leistungsfähigkeit sowie Einsatzmöglichkeiten und Grenzen. Ein weiterer wichtiger Schwerpunkt liegt auf dem Vergleich mit Funktion und Struktur natürlicher kognitiver Systeme. Das Thema stößt auf breites Interesse. Entsprechend erfordert es aufgrund der aktuellen und zukünftigen Anwendungsgebiete, der vielfältigen Einsatzmöglichkeiten und gesellschaftlichen Auswirkungen in besonderem Maße eine interdisziplinäre Perspektive.
Zielsetzungen
➤ Grundsätzliche Forschungsfragen sind:
- Was ist genau ein natürliches und was ein künstliches kognitives System?
- Was sind die Funktionsprinzipien der Kognition?
- Was genau bedeutet „Intelligenz“ in solchen Systemen?
- Welche Rolle spielt die Körperlichkeit (Embodiment) für Kognition und Intelligenz?
- Wie ähnlich können oder sollen KI-Systeme den Architekturen natürlicher kognitiver Systeme sein?
- Was sind die Voraussetzungen für künstliche Kreativität oder künstliches Bewusstsein und was sind die Prämissen der Zuschreibung?
- Welche Rollen spielen Menschenbilder dabei?
➤ Anwendungen und Grenzen von künstlichen kognitiven Systemen beleuchten
- Was sind neuartige Einsatzmöglichkeiten kognitiver Systeme zum Beispiel in Medizin oder Rechtsprechung?
- Welche Möglichkeiten bieten KI-Systeme für den Ersatz oder die Ergänzung von derzeit noch inhärent menschlichen Fähigkeiten wie zum Beispiel Kreativität oder Empathie?
- Welche Rolle wird KI in der Forschung spielen?
- Wo liegen technische und ethische Grenzen?
➤ Das Zusammenspiel mit der menschlichen Intelligenz erkunden
- In welchen Formen werden wir mit KI-System interagieren?
- Welche Bedingungen müssen erfüllt sein, damit wir KI-Systemen vertrauen können?
- Wie wird der Umgang mit KI gelernt zum Beispiel in der Schule und an Universitäten?
Projektbeschreibung
Künstliche kognitive Systeme als intelligente IT-Systeme reichen von Softwareagenten (zum Beispiel ChatGPT von OpenAI) bis zu cyber-physischen Systemen (zum Beispiel Phoenix von Sanctuary AI). Sie können selbstständig Lösungen für unterschiedliche Aufgaben entwickeln. Dazu müssen diese Systeme ihre realen und digitalen Umgebungen multimodal wahrnehmen, Schlüsse ziehen und lernen. Ebenso können sie gegebenenfalls ihr Umfeld verändern. Hier kommen KI-Verfahren wie maschinelles Lernen, neuronale Netze und Deep Learning zum Einsatz. Für die Interaktion mit der Umgebung sind Schnittstellen zur realen und digitalen Welt notwendig. Während frühere künstliche kognitive Systeme häufig auf robotische und cyber-physische Systeme mit komplexer Sensorik und Aktuatorik, also komplexer Steuerung von Bewegungen und Kräften in technischen Systemen, zurückgreifen mussten, erlaubt die zunehmende Verschmelzung von Realität und Virtualität, dass neuere Systeme durch leichter handhabbare Schnittstellen Zugänge zu ihren Umgebungen haben wie etwa in Smarthome-Systemen. Es ist davon auszugehen, dass solche künstlichen kognitiven Systeme in Zukunft vermehrt in allen Lebensbereichen zum Einsatz kommen und mit Menschen, also mit deren natürlicher Intelligenz zusammenwirken.
Perspektiven
• Sommer 2025 Auftakt-Workshop der Arbeitsgruppe
• Ab Herbst 2025 Online-Vortragsreihe: In einer Online-Vortragsreihe planen wir Vorträge zu KI, die speziell für ein interdisziplinäres Publikum aufbereitet sind. Ziel ist es, die verschiedenen Algorithmen und Architekturen (zum Beispiel Deep Learning, Reinforcement Learning etc.) heutiger KI-Methoden anschaulich zu erläutern, ohne detaillierte technische Kenntnisse vorauszusetzen.
• Sommer 2026 oder 2027 Akademievorlesungsreihe: voraussichtlich vier Vorträge aus unterschiedlichen Disziplinen zu den Themen „KI und Mensch“
• Frühjahr 2026 „KI-Promptathon“: in Zusammenarbeit mit der Universität Hamburg
Hintergrundinformationen
Das Thema der künstlichen kognitiven Systeme hat eine herausragende gesellschaftliche Bedeutung sowohl hinsichtlich technischer Anwendungen und möglicher Risiken von KI als auch hinsichtlich möglicher Veränderungen von Menschenbildern und gesellschaftlichen Normen. Es ist davon auszugehen, dass künstliche kognitive Systeme viele Anwendungsbereiche und Berufsfelder revolutionieren werden – von der Automatisierung einfacher Tätigkeiten bis hin zur Unterstützung komplexer Entscheidungsprozesse. Dies führt zu einer Umgestaltung von Berufsprofilen und kann sowohl Chancen als auch Herausforderungen für die Beschäftigten mit sich bringen. Möglicherweise verschwinden ganze Berufsgruppen, wenn KI bestimmte Tätigkeiten übernimmt. Anzunehmen ist auch, dass automatisierte Assistenzsysteme noch stärker das Alltagsleben durchdringen.
Mit der zunehmenden Verbreitung von KI und künstlichen kognitiven Systemen wird daher die Notwendigkeit größer, Menschen auf diese Technologien vorzubereiten. Daher müssen Bildungssysteme angepasst werden, um Fähigkeiten zu fördern, die in einer von KI geprägten Welt benötigt werden. Die Art und Weise, wie Menschen mit KI interagieren, wird zunehmend bedeutsamer, wobei die Entwicklung gebrauchstauglicher Systeme entscheidend ist, um eine effektive Zusammenarbeit zwischen Mensch und KI zu gewährleisten.
Der Einsatz von KI wirft zahlreiche ethische Fragen auf – mit Blick auf Entscheidungen, die von KI-Systemen getroffen werden, mit Blick auf Transparenz von Algorithmen und dem Vermeiden von Diskriminierung. Die Fähigkeit zu kritischem Denken im Umgang mit künstlichen kognitiven Systemen wird damit auch zunehmend wichtiger. Künstliche kognitive Systeme können zugleich dazu beitragen, Menschen in sozialen, wirtschaftlichen und politischen Prozessen besser einzubeziehen, indem sie den Zugang zu Informationen und Dienstleistungen erleichtern. Gleichzeitig besteht die Gefahr, dass technologische Entwicklungen die digitale Kluft vergrößern, wenn bestimmte Bevölkerungsgruppen nicht angemessen in solche Prozesse eingebunden sind.
Die Formulierung von Richtlinien und Gesetzen, die dem Fortschritt gerecht werden und gleichzeitig die Vorzüge der Technik nutzen, ist von entscheidender Bedeutung für die Frage, wie Mensch und Maschine zukünftig zusammenwirken.
Mitglieder der Arbeitsgruppe
"Virtuelle Freiheit – Das Metaversum im Spannungsfeld zwischen Selbstbestimmung und Überwachung"
Essay von Frank Steinicke
