Warum wir nicht zu Abnickern von KI werden dürfen

Welche Fähigkeiten werden in einer Welt wichtig, in der Künstliche Intelligenz (KI) immer stärker unseren Alltag, unsere Arbeit und unsere Bildung prägt? Darüber wird viel diskutiert – doch oft bleiben die Antworten abstrakt. Mit unserer neuen Reihe „Der Zukunftsfragebogen“ möchten wir deshalb den persönlichen Blick in den Mittelpunkt stellen. Wir stellen Persönlichkeiten aus Wissenschaft, Wirtschaft und Gesellschaft immer dieselben Fragen – und erhalten überraschend unterschiedliche Antworten.

Den Auftakt macht Ute Schmid. Die Informatikerin leitet den Lehrstuhl für Kognitive Systeme an der Universität Bamberg. Sie hat in diesem Jahr den renommierten „Communicator-Preis“ erhalten – verliehen von der Deutschen Forschungsgemeinschaft und dem Stifterverband. Mit ihren Antworten spricht sie über die Bedeutung von Leidenschaft, kritischem Denken und echter Problemlösekompetenz, über die Chancen und Grenzen von KI in Bildung und Arbeitswelt – und darüber, warum wir uns nicht darauf verlassen sollten, dass intelligente Systeme das Denken für uns übernehmen.

Stellen Sie sich vor, Sie sind 18. Mit Ihrem heutigen Wissen: Wohin würden Sie beruflich gehen – und was lassen Sie bewusst bleiben?
Tatsächlich würde ich es wieder ganz genauso machen wie damals: zwei Studiengänge nacheinander vollständig studieren und abschließen – zuerst Psychologie, dann Informatik. Aus beiden Fächern habe ich für meinen späteren Weg als Wissenschaftlerin im Bereich Künstliche Intelligenz sehr viel mitgenommen. Die Studienzeit ist ja eine sehr prägende Phase: Welche Methoden genutzt werden, welche Arten von Forschungsfragen als relevant und spannend gelten und wie man Forschungsergebnisse bewertet, lernen wir im Studium – oft, ohne dass uns das bewusst ist. Mit einem erfahrungswissenschaftlichen Studium, in dem Theorien experimentell geprüft werden, und einem formal- und ingenieurwissenschaftlichen Studium, in dem man Algorithmen formal definiert, untersucht und in Programme umsetzt, konnte ich zwei sehr unterschiedliche wissenschaftliche Perspektiven entwickeln. Das hilft mir enorm in interdisziplinären Projekten, die gerade im Bereich KI aus meiner Sicht von großer Bedeutung sind.

Welche Fähigkeit wird in den nächsten fünf Jahren über beruflichen Erfolg entscheiden – und welche in 15 Jahren?
Der Blick in die Glaskugel ist immer schwierig. Ich glaube allerdings, dass – unabhängig vom Zeithorizont – entscheidend ist, dass man das, was man tut, mit Überzeugung und Leidenschaft tut. Das gilt für handwerkliche Berufe genauso wie für akademische Laufbahnen.

Wer Interesse an dem hat, was er tut, bringt fast automatisch die Bereitschaft mit, sich anzustrengen. Neben intrinsischem Interesse sind aus meiner Sicht Anstrengungsbereitschaft und die kritische Reflexion des eigenen Handelns zentral. Im Alltag von Studium oder Beruf vergisst man häufig, einmal einen Schritt zurückzutreten und sich zu fragen, welche Konsequenzen das eigene Tun für den unmittelbaren Arbeitsbereich, aber auch für Gesellschaft und Umwelt hat.

Gerade im Bereich KI erleben wir derzeit einerseits beeindruckende Forschung und rasante Entwicklungen, andererseits aber auch Geschäftsmodelle und Anwendungen, die sich negativ auf menschliche Kompetenzen und das demokratische Miteinander auswirken. Hier sind alle KI-Forschenden, alle, die KI-Anwendungen entwickeln, und auch diejenigen, die KI-Werkzeuge nutzen, aufgerufen, kritisch zu prüfen, wo Gefahr der Marginalisierung und Manipulation von Menschen droht und wie KI-Systeme so gestaltet und sozio-technisch eingebettet werden können, dass sie uns bei komplexen Problemlöse- und Entscheidungsprozessen tatsächlich unterstützen.

Was wünschen Sie sich, wie unsere Bildungssysteme oder Unternehmen mit dem Thema Future Skills umgehen sollten – und warum ist der Stifterverband hier ein wichtiger Partner?
Mit der Veröffentlichung von ChatGPT Ende 2022 hat das Thema KI massiv Einzug in Bildung und Arbeitswelt gehalten. Bezeichnend für unsere Bildungssysteme, insbesondere die Schule, ist aus meiner Sicht, dass zunächst vor allem das Erschleichen von Prüfungsleistungen mithilfe großer Sprachmodelle im Mittelpunkt der Debatte stand – etwa der Aufsatz, der von ChatGPT geschrieben wird. Dass derselbe Aufsatz zuvor vielleicht von der Mutter verfasst wurde, wurde nie kritisch hinterfragt, obwohl das vom Lernergebnis her denselben Effekt hat – nämlich keinen.

Unser Bildungssystem ist meiner Meinung nach in einigen Punkten nicht „AI ready“. KI-Werkzeuge können im Bildungskontext durchaus sinnvoll eingesetzt werden – von Lernenden ebenso wie von Lehrenden. Kritisch wird es jedoch, wenn durch die Überdelegation kognitiver Aufgaben zentrale Kompetenzen nicht mehr aufgebaut werden. Genau diese sind aber notwendig, um zielgerichtet mit KI-Systemen zu interagieren – mit einer kritischen Beurteilung der Ausgaben und gegebenenfalls notwendigen Korrekturen.

Damit wesentliche Kompetenzen in Schule und Studium weiterhin erworben werden, ist es dringend notwendig, individualisiertes Üben nicht auf Hausaufgaben zu verlagern. Learning by doing ist zentral für den Erwerb transferierbarer Problemlöse- und Bewertungskompetenzen. Wird dieser Prozess ins Elternhaus verlagert, zementieren wir die ohnehin stark ausgeprägte Abhängigkeit des Bildungserfolgs vom Elternhaus noch weiter.

Der Stifterverband adressiert das Thema Bildung und Kompetenzen als zentrales Handlungsfeld und leistet durch Fördermittel und konkrete Programme einen wichtigen Beitrag zur zukunftsgerichteten Weiterentwicklung des Bildungssystems. Ich freue mich, dass ich mich sowohl im Beirat des KI-Campus als auch in der Task Force „KI in der Hochschulbildung“ der Allianz für Future Skills aktiv einbringen darf.

KI ist in aller Munde. Was sind für Sie persönlich die entscheidenden Skills, um KI nicht nur zu nutzen, sondern damit wirklich besser zu werden?
Wesentliche Voraussetzung dafür, dass wir in Mensch-KI-Teams komplexe Aufgaben besser bewältigen können, sind Expertise im jeweiligen Anwendungsbereich und ein grundlegendes Verständnis davon, wie KI-Systeme funktionieren. Nur wenn beides gegeben ist, können wir unser Vertrauen in die Ausgaben von KI-Systemen sinnvoll kalibrieren und vermeiden, dass wir zu bloßen Abnickenden generierter Inhalte werden. Zur Vermittlung von KI-Kompetenzen bietet der vom Stifterverband geförderte KI-Campus ein umfangreiches, zielgruppenspezifisches Angebot.

Wichtig ist aber auch, dass das Thema ein verpflichtender Bestandteil der Lehrkräftebildung wird. Damit Expertise im jeweiligen Anwendungsbereich aufgebaut und langfristig erhalten werden kann, braucht es einerseits innovative Methoden für die Gestaltung von Mensch-KI-Schnittstellen und andererseits eine Reform unseres Bildungssystems, die mehr Zeit für den Aufbau von Verständnis und Zusammenhängen sowie für Problemlöse- und Bewertungskompetenz schafft.

Bereits seit den 1980er-Jahren werden in der KI-Forschung Intelligente Tutorsysteme (ITS) entwickelt. Im Gegensatz zu einfachen EdTech-Lösungen, die Lernprozesse häufig rein behavioral steuern, können ITS die einem Fehler zugrunde liegenden Misskonzepte oder Wissenslücken spezifisch diagnostizieren und gezielt adressieren. Statt eine Lösung vorzugeben, werden hier zum Beispiel sokratische Dialoge oder strukturanaloge Beispiele eingesetzt. So werden Lernen im Problemlösekontext, Generalisierung und auch das Erleben von Selbstwirksamkeit gefördert.
 

Was würden Sie jungen Menschen (oder Studierenden) raten: Woran sollten sie heute arbeiten, das in keinem Zeugnis steht – aber ihre Zukunft prägt?
Seid nicht zufrieden mit Second-Hand-Erfahrungen, sondern erlebt das echte Leben – auch wenn echte Freunde im Gegensatz zu KI-Chatbots manchmal kritisch sind. Sucht bewusst den persönlichen Austausch, auch außerhalb eurer Bubble, und bringt euch aktiv in relevante gesellschaftliche Debatten ein. Entscheidet euch bei Studium und Beruf nicht nach Statistiken, sondern wählt einen Bereich, den ihr wirklich spannend findet. Man darf bei der ersten Wahl auch danebenliegen – ein Wechsel ist kein Makel. Seid leidenschaftlich, aber auch selbstkritisch bei dem, was ihr tut, und macht euch klar, dass nicht immer die guten Noten entscheidend sind, sondern was ihr persönlich aus euren Talenten macht.