Alke Martens: „KI ist kein Gamechanger, sondern ein Spiegel unserer Machtstrukturen“

Alke Martens forscht seit drei Jahrzehnten im Bereich Künstliche Intelligenz. Sie kennt die Hypes – und sie kennt ihr Verfallsdatum. Während KI als „Gamechanger“ gefeiert wird, nutzt sie selbst die gängigen Tools so gut wie nie. Wenn überhaupt, dann in der Lehre, um Studierenden zu zeigen, wo Fehler entstehen. Alke Martens leitet als Professorin den Lehrstuhl Praktische Informatik und Didaktik der Informatik an der Universität Rostock.

Auf Social Media wirkt sie wie eine Gegenfigur zur oft hektisch ratternden Selbstdarstellung: besonnen, analytisch, komplexitätsfreundlich. Ihre Videos öffnen den Raum für alle, die keine schnellen Antworten brauchen, sondern differenzierte Einordnungen. Alke Martens fragt, wem KI nützt, wessen Perspektiven fehlen – und warum Kontrolle und Berechenbarkeit in der Technologie vielleicht mehr über unsere Gesellschaft verraten als über Maschinen.

Du bist wie eine Insel bei Social Media, führst das besonnene Denken da ein, wo alles auf Schnelligkeit und Oberflächlichkeit optimiert ist und zeigst mit jedem deiner Videos, dass die Welt komplexer ist und die kurze, schnelle und einfache Antwort meistens schlichtweg falsch. War der Wunsch nach Vermittlung dieser Tatsache auch ein Grund dafür, das Format zu entwickeln?

„Ja, auf jeden Fall. Ein großer Teil meiner Arbeit besteht darin, Wissen für angehende Lehrer*innen zu vermitteln, also für Lehramtsstudierende. Unser Bildungsauftrag ist es ja, Inhalte so aufzubereiten, dass sie anschließend an Schüler*innen weitergegeben werden können. Das ist anspruchsvoll. Es bedeutet, dass wir Formate entwickeln müssen, die für unterschiedliche Altersstufen verständlich und vermittelbar sind. Das war für mich ein zentrales Anliegen und auch die Grundidee hinter diesem Social-Media-Projekt. Wir haben uns gefragt: Wie erkläre ich das meiner Tante? Wie meiner Tochter? Und wie meiner Mutter?

„Das ist inzwischen die dritte KI-Blase. Und auch diese wird vermutlich irgendwann platzen.“
– Alke Martens

Diese Perspektiven zusammenzubringen, war mir wichtig, auch als Gegenentwurf zu dem Hype, der mich immer wieder ärgert: dieses permanente Narrativ, dass wir alle abgehängt werden, wenn wir jetzt nicht sofort aufspringen, und dass KI gleich die Weltherrschaft übernimmt. Ich arbeite seit 30 Jahren im Bereich KI – das ist inzwischen die dritte KI-Blase. Und auch diese wird vermutlich irgendwann platzen.“

Social Media ist ja ein zentraler Verstärker genau solcher Dynamiken. Wie stehst du grundsätzlich zu Social Media – gerade vor dem Hintergrund, dass deine Inhalte auf Tiefe und längere Aufmerksamkeit setzen?

„Ich habe Social Media lange bewusst verweigert. Tatsächlich bin ich erst seit 2020 auf Instagram – ursprünglich, weil ich meine Tochter ,gestalkt’ habe. Wenn Kinder in die Pubertät kommen und plötzlich auf diese Plattformen wollen, schaut man sich das als Fachperson natürlich erst einmal sehr genau an.
Ich habe dabei mit großem Entsetzen verfolgt, wie sich Inhalte auf Social Media aufbauen: diese Aufmerksamkeitsökonomie, die kurzen Zeitfenster, und wie sich Feeds gezielt entwickeln. Besonders spannend – und zugleich beunruhigend – war zu beobachten, wie unterschiedlich sich der Feed bei einem jungen Mädchen und bei einem Jungen formt. 

Für mich war es ein großer Schritt, selbst auf Social Media aktiv zu werden, nicht zuletzt, weil ich das Medium persönlich nicht besonders feiere. Gleichzeitig sehe ich aber auch klare Vorteile: Menschen finden dort plötzlich Räume, die sie sonst nicht hätten. Zum Beispiel eine junge Person in der Pubertät, die merkt, dass sie sich einem anderen Geschlecht zugehörig fühlt: Sie kann auf Social Media Unterstützung finden, Erfahrungen anderer sehen und sich weniger allein fühlen.

Auf der anderen Seite sehe ich aber auch im Freundes- und Bekanntenkreis junge Mädchen, die durch bestimmte Inhalte in Essstörungen regelrecht gefangen gehalten werden, weil ihnen genau diese Formate immer wieder ausgespielt werden. Das zeigt sehr deutlich: Social Media hat zwei Seiten – und beide gehören untrennbar zusammen.“

Ähnlich ambivalent wird über KI diskutiert. Ich selbst bin davon überzeugt, dass durch KI alles Menschliche, die persönliche Begegnung, die authentische Geschichte wieder neu wertgeschätzt werden. Wie siehst du das?

„Ich sehe das ganz ähnlich. Als 2024 diese GPT-Software aufkam, habe ich zu einer Freundin gesagt – sie arbeitet als Somatic Coach und bringt Menschen im Grunde bei, über den Körper zu arbeiten und Körperbewusstsein zu entwickeln: Schau mal, jetzt beginnt der Computer, Sprache zu generieren, und genau dadurch rückt Körperbewusstsein wieder stärker in den Vordergrund. Sie antwortete: Ja, das stimmt – und zugleich rückt auch das Bewusstsein dafür, was Menschsein eigentlich bedeutet, wieder mehr ins Zentrum. Denn ein Mensch ist eben keine textverarbeitende Maschine. 

„Ich wünsche mir, dass Menschlichkeit kein Nischenprodukt wird.“
– Alke Martens

Das trifft es für mich sehr genau. Ich teile diese Haltung: Menschengemachte Produkte werden wieder einen besonderen Wert bekommen. Gleichzeitung hoffe ich, dass daraus keine Welt entsteht, in der genau diese menschlichen Produkte zu einem Luxusgut werden – etwas, das sich am Ende nur noch gut verdienende Menschen leisten können. Ja: Ich wünsche mir sehr, dass Menschlichkeit kein Nischenprodukt wird.“

Inwiefern ist KI durch die mangelnde Diversität ihrer Schöpfer geprägt und welche systemischen Probleme entstehen dadurch?

„Künstliche Intelligenz wird überwiegend von weißen Männern entwickelt – früher vor allem von älteren, heute eher von jüngeren. Entsprechend reproduziert sie bestehende Machtverhältnisse: KI ist rassistisch und weist einen erheblichen Gender-Bias auf. Das beginnt bereits bei der Grundannahme, auf der viele dieser Systeme beruhen: der Idee, dass sich Sprache vollständig vermessen und in mathematische Modelle übersetzen lässt. Diese Denkweise ist historisch stark von männlich geprägten Annahmen und Strukturen bestimmt. In der Entwicklung künstlicher Intelligenz waren bislang extrem wenige Frauen beteiligt – und das gilt bis heute.“

Du setzt dich dafür ein, dass Frauen KI aktiv mitgestalten. Inwiefern verändern diverse Teams die Qualität von Algorithmen – etwa mit Blick auf die Reduktion von Vorurteilen und Bias?

„Um bei der zugespitzten, aber geläufigen Formel zu bleiben: Der ‚weiße alte Mann‘ diskriminiert meist nicht aus Böswilligkeit. Diese überwiegend homogenen Teams setzen sich ja nicht zusammen und sagen bewusst: ,Wir schließen jetzt Frauen aus'. Vielmehr handelt es sich um ein Awareness-Problem. Viele Entwickler haben schlicht nicht auf dem Schirm, dass Menschen mit anderen kulturellen Hintergründen, anderen Nationalitäten, Geschlechtern oder Lebensrealitäten die Welt anders wahrnehmen und andere Fragen stellen. Ich glaube, es geht hier weniger um gezielte Diskriminierung als um Unterlassung – vielleicht auch um eine gewisse männliche Selbstverständlichkeit oder Eitelkeit, die verhindert, dass diese Perspektiven mitgedacht werden.

„Vielfalt in der Entwicklung ist keine moralische Zusatzforderung, sondern eine Voraussetzung für bessere, realistischere Systeme.“ 
– Alke Martens

Gemischte Teams – in Bezug auf Geschlecht, kulturelle Prägung und Lebensrealitäten – bringen andere Ideen und andere Blickwinkel ein, die derzeit in vielen KI-Systemen einfach fehlen. Aktuelle KI-Systeme sind stark westlich geprägt, orientiert an amerikanischen und europäischen Werten und Kulturstrukturen. Diese lassen sich nicht automatisch auf andere gesellschaftliche Vorstellungen übertragen – etwa auf Kontexte auf dem afrikanischen Kontinent. Das gilt für kulturelle Fragen ebenso wie für Gender-Themen. Vielfalt in der Entwicklung ist deshalb keine moralische Zusatzforderung, sondern eine Voraussetzung für bessere, realistischere Systeme.“

KI wird ja oft als gesellschaftlicher Gamechanger beschrieben, immer mit dem Zusatz: „vorausgesetzt, sie wird verantwortungsvoll eingesetzt.“ Gleichzeitig konzentrieren sich Macht und Kontrolle bei wenigen Tech-Giganten und politischen Akteuren. Wer hat überhaupt ein Interesse an einem „verantwortungsvollen“ Umgang mit KI – und wer nicht?

„Es gibt nur sehr wenige Organisationen, die wirklich ein ernsthaftes Interesse daran haben, dass KI fair und verantwortungsvoll entwickelt wird – etwa AlgorithmWatch. Die meisten Akteure verfolgen in erster Linie wirtschaftliche Interessen. Was ich überhaupt nicht sehe, ist, dass KI ein wirklicher Gamechanger ist. Ich wüsste nicht, was sich grundlegend verändern sollte, nur weil es jetzt textgenerierende KI gibt. Ich glaube, darin steckt sehr viel Prosa – also viel Erzählung.“

Aber wir wissen, dass sich gewisse Erzählungen, wenn sie nur oft genug wiederholt werden, manifestieren. Es ist aktuell auch an vielen Stellen bereits Fakt – nicht zuletzt im Journalismus – dass KI Menschen oder auch menschliche Geschichten ersetzt (oder ersetzen soll).

„Ja, die Wiederholung von Narrativen, von Erzählstrukturen, macht etwas mit uns Menschen. Das geht schon stark in philosophische Diskussionen: die Macht der Sprache und wie Sprache unseren Verstand formt. Vielleicht ist es gerade deswegen wichtig, auch andere Erzählstrukturen zu wählen, Fakten herauszuarbeiten von Prosa. Idealerweise treffen wir als Gesellschaft Entscheidungen – beispielsweise auch, welcher Form von Journalismus wir folgen wollen, welche Art von Berichten wir lesen wollen. Vielleicht bin ich da idealistisch, aber ich denke immer noch, dass menschliche Texte eine andere Qualität haben als von KI nachgestellte menschliche Texte.“

Du hast am 6. Januar ein Video veröffentlicht, das viral ging. Darin sprichst du mit großer Klarheit über Schönheitsnormen, Gewicht, Körperbilder und darüber, wie viel Zeit und Geld in Strukturen fließt, die Frauen am Ende kleinhalten. Eine Frage hat mich besonders beschäftigt: Würde es KI in der heutigen Form überhaupt geben, wenn Frauen nicht über Jahrzehnte hinweg mit Schönheitsidealen, Selbstoptimierung und Einschränkung beschäftigt worden wären – statt mit technischer Entwicklung und Machtfragen?

„Die Frage lässt mich selbst nicht los. Gegen Ende des Jahres starte ich ein Buchprojekt, in dem es explizit um Frauen in der KI geht, und genau dieser Frage werde ich dort gezielt nachgehen. Was ich grundsätzlich vermeiden möchte, sind einfache Gender-Plattitüden nach dem Muster: Frauen denken so, Männer denken so. Ich glaube, vieles von dem, was wir beobachten, ist anerzogen und gesellschaftlich trainiert.

Was bei KI auffällt: Diese Systeme sind darauf ausgelegt, Kontrolle herzustellen. Sie beruhen auf Wahrscheinlichkeitsprognosen – darauf, berechnen zu können, welches Wort mit welcher Wahrscheinlichkeit auf das nächste folgt. Aus der aktuellen Psychologie und den Neurowissenschaften wissen wir aber, dass das menschliche Gehirn so nicht funktioniert. Weder das Gehirn von Frauen noch das von Männern.

„Wer hat ein Interesse daran, genau vorhersagen und kontrollieren zu können, was gesagt wird?“
– Alke Martens

Wenn man also sagt: Das zugrunde liegende Modell heutiger KI ist biologisch gesehen eigentlich falsch, stellt sich die Frage: Was bringt uns dieses Modell dann? Es erlaubt, Sprache mathematisch zu vermessen. Und damit verbunden ist die nächste Frage: Wer hat ein Interesse daran, möglichst genau vorhersagen und kontrollieren zu können, was gesagt wird?

Diese Orientierung an Sicherheit, Vorhersagbarkeit, mathematischer Berechenbarkeit und Wahrscheinlichkeiten ist in unserer Kultur stark männlich geprägt. Demgegenüber stehen Erfahrungen, die sich jeder Form von Kontrolle entziehen. Eine Geburt zum Beispiel – du kennst das selbst – ist eine Erfahrung, in der man mit dem ganzen Körper spürt, dass Kontrolle schlicht nicht existiert.

Oder nehmen wir Frauen als zyklische Wesen: Innerhalb von vier Wochen verändern sich Emotionen, Wahrnehmungen und Energien – beeinflusst von Hormonen, Licht, Essen, Wetter, sozialen Beziehungen, Kindern. Das ist nicht berechenbar. Es ist chaotisch. Und ich würde – ohne das wissenschaftlich belegen zu können – vermuten, dass Frauen im Alltag oft flexibler mit solchen chaotischen Systemen umgehen als Männer. Ob das kulturell bedingt ist, historisch gewachsen oder mit kollektiven Erfahrungen zusammenhängt, etwa den Traumata der Weltkriege, kann ich nicht sagen.“

Wo zeigt sich der Kontrollgedanke, von dem du sprichst, aus deiner Sicht am deutlichsten?

„Was ich beobachte, ist ein sehr starker Kontrollwille in der gesamten IT- und KI-Welt. Einen Willen, den ich bei Männern häufig erlebe, bei Frauen deutlich seltener. Das ist keine wissenschaftliche Aussage, sondern eine persönliche Beobachtung aus meinem eigenen Erleben in einem klar männlich dominierten Umfeld. Bei Frauen zeigt sich Kontrolle oft an anderen Stellen: am Körper, am Gewicht, am Aussehen, an dem Versuch, Alterungsprozesse aufzuhalten. Wenn man genauer hinschaut, sind aber auch das Konzepte, die aus männlich geprägten Vorstellungen stammen.

Deshalb bleibt für mich die offene Frage: Gibt es hier tatsächlich einen geschlechtsspezifischen Unterschied – oder bewegen wir uns vor allem in kulturell antrainierten Bildern, in denen Vermessung und Berechenbarkeit Männern Sicherheit geben, während weibliche Perspektiven systematisch außen vor bleiben?“

Kommst du mit deinen männlichen Kollegen über solche Fragen ins Gespräch? Wie laufen solche Diskussionen ab?

„Das ist tatsächlich sehr spannend, weil es die meisten Männer schlicht nicht interessiert. Wenn ich sage, wir brauchen mehr Frauen in der KI, nicken viele und sagen: Ja, sehen wir auch so. Wenn ich dann aber weitergehe und frage, ob KI oder mathematische Modelle in der Informatik vielleicht grundsätzlich stark männlich geprägt sind, kommt meistens nur: Keine Ahnung. Das hat sicher auch mit der Fachkultur zu tun. Informatik wählt man in der Regel nicht, weil man gerne gesellschaftlich-philosophisch diskutiert, sondern weil man analytisch denkt und gerne konzentriert und oft auch allein arbeitet. Entsprechend bin ich überwiegend von Männern umgeben, die nicht unbedingt debattenfreudig sind. 

Wenn ich dagegen in philosophische oder sozialwissenschaftliche Fakultäten schaue, ist die Dialogbereitschaft deutlich höher. Dort werden genau solche Fragen aktiv diskutiert – und viele meiner Gedanken speisen sich aus diesen Diskursen. In der Theologie beispielsweise kenne ich einen jungen Professor, der zur Ethik der Medizin arbeitet. Er sagt ganz selbstverständlich: Wir wissen inzwischen, dass die Medizin historisch stark männlich geprägt ist. Medizinische Versuche an jungen Frauen seien lange aus ethischen Gründen vermieden worden, um ihre Reproduktionsfähigkeit nicht zu gefährden.
Ich habe gesagt: Das ist diskriminierend. Und er meinte: Ja, stimmt, das sehe ich auch so – aber ich verstehe gleichzeitig die damalige Begründung. Es ging also nicht darum, Frauen bewusst auszuschließen, sondern sie zu schützen. Gleichzeitig wurde dabei völlig ausgeblendet, dass Männer an Reproduktion genauso beteiligt sind wie Frauen. Dieses Bewusstsein war schlicht nicht vorhanden. 
Mit diesem Ethikprofessor konnte ich lange und differenziert darüber diskutieren. Solche Gespräche sind möglich. Mit einem Informatikprofessor hingegen erlebe ich das so gut wie nie.“

Müssten wir nicht viel stärker interdisziplinäre Debatten fördern – also Informatik, Philosophie, Sozialwissenschaften und Ethik systematisch zusammenbringen – auch um unsere Zukunft tatsächlich diverser und inklusiver zu gestalten?

„Auf jeden Fall: Interdisziplinäre Debatten helfen uns auch im Wissenschaftlichen, die Themen breiter zu denken. An der Uni Rostock haben wir das schon vor einiger Zeit erkannt und daher die Interdisziplinäre Fakultät gegründet. Hier bin ich beispielsweise in einer Gruppe aktiv zum Thema ,Wissen, Kultur und Transformation'.“

Wenn man jetzt utopisch denkt: Welche Art von KI wäre möglich, wenn Gesundheit, Teilhabe und Macht in unserer Gesellschaft gleich verteilt wären?

„In dieser utopischen Vorstellung würde KI im besten Wissen und Gewissen eingesetzt werden – als unterstützende Instanz. Eine KI könnte zum Beispiel sagen: Achtung, deine Perspektive ist gerade sehr einseitig. Oder: Dein aktueller Schlaf-Wach-Rhythmus ist für dich gesundheitlich problematisch. Und das alles, ohne dass diese Daten an große Konzerne weitergegeben werden müssten und ohne dass ich mich vorher eindeutig als weiblich oder männlich definieren müsste.
Schön wäre eine fluide, persönliche Assistenz. Allerdings muss man realistisch bleiben: Die derzeit existierenden KI-Systeme sind datengetrieben. Sie funktionieren nur, weil enorme Mengen persönlicher Daten eingespeist werden. Wenn wir von einer KI träumen, die privat bleibt und keine Daten weitergibt, dann kann es nicht diese Art von KI sein. In der Form, wie wir sie heute kennen, ist diese Utopie nicht realisierbar.“

Was du in der Utopie beschreibst, ist eine nahezu menschliche KI?

„Es wäre eher eine beratende Instanz. Vieles davon ist ja heute schon möglich. Ich kann meinen Zyklus dokumentieren, und eine App kann mir rechnerisch sagen, wann ich wahrscheinlich in einer bestimmten Phase bin. Daraus lassen sich einfache Empfehlungen ableiten: mehr trinken, mehr Ruhe, mehr Bewegung. Dafür brauche ich keine Daten von hunderttausenden Frauen. Dieses Wissen existiert bereits. Das ließe sich auch datenschutzfreundlich umsetzen – aber daran besteht schlicht kein großes Marktinteresse.“

Viele Menschen, auch in meinem Umfeld, kommunizieren schriftlich oder mündlich mit einer KI, wenn sie sich allein fühlen oder sich nach Gesellschaft sehnen. Es gibt auch KI-Apps für Freundschaften und sogar Liebesbeziehungen. 

„Ich glaube, die KI-Industrie hat eine sehr reale Lücke erkannt: die massive Einsamkeit vieler Menschen, besonders nach der Corona-Pandemie. Es ist auffällig, dass diese Entwicklung genau unmittelbar danach Fahrt aufgenommen hat.

Einsamkeit und fehlende Gemeinschaft werden unterschätzt. Alle Menschen brauchen Gemeinschaft. Und Gemeinschaft hat verschiedene Phasen: Im Aufwachsen ist zunächst die gleichgeschlechtliche Peergroup zentral, später sind es gemischte Gruppen. 

„Die KI-Industrie hat eine reale Lücke erkannt: die massive Einsamkeit vieler Menschen.“
– Alke Martens

Was uns Erwachsenen heute fehlt, ist genau dieser Austausch mit Gleichaltrigen – dieses Gefühl von Nähe, von einem tragenden Kreis, in dem auch Konflikte Platz haben. Trotz Überbevölkerung fehlt uns das Dorf. Freundeskreise sind oft über Länder verteilt, Nähe geht verloren. Und genau in diese Lücke stößt KI hinein.“

Dazu kommen Polarisierung und gesellschaftliche Spaltung. Verbindende und positive Inhalte funktionieren schlecht in algorithmischen Logiken.

„Das haben wir erst vor kurzem an der Uni diskutiert. Ein Kollege sagte mir, er konsumiere keine Nachrichten mehr, weil sie ihn nur noch belasten. Stattdessen schaut er gezielt positive Nachrichten – und merkt, dass ihn das viel stärker zu konstruktivem Handeln motiviert.

Mediale Kommunikation beeinflusst massiv, was in den Köpfen der Menschen passiert. Ich glaube, wir befinden uns gesellschaftlich noch immer in der Verarbeitung unseres historischen Erbes und stehen gleichzeitig vor der Notwendigkeit eines Wandels. Vielleicht hilft uns KI paradoxerweise dabei zu erkennen, wie wertvoll das Zwischenmenschliche tatsächlich ist.“



Aus feministischer Sicht: Was müsste denn jetzt dringend passieren, damit KI nicht nur effizienter, sondern auch gerechter wird? Und was können wir jenseits von Technik selbst gestalten?

„Ich plädiere sehr dafür, KI nur dort einzusetzen, wo wir sie wirklich brauchen – wo sie uns tatsächlich erweitert. Wenn wir etwas selbst können, warum sollten wir es an die KI auslagern? Für viele Menschen ist der Weg das Ziel. Beim Schreiben ist nicht das fertige Buch das Entscheidende, sondern der Prozess. Beim Musizieren ist es das gemeinsame Üben, das Lernen, das Wachsen.

„Wir sollten KI nur dort einsetzen, wo wir sie wirklich brauchen – wo sie uns tatsächlich weiterbringt.“ 
– Alke Martens

KI verbraucht Ressourcen und nimmt uns Erfahrungen ab, die für uns wertvoll sind. Deshalb brauchen wir ein gesellschaftliches Bewusstsein dafür, KI nur dann einzusetzen, wenn wir sie verantworten können – und wenn es wirklich keine bessere Alternative gibt.“

Zum Beispiel beim Thema Care-Arbeit? Wie kann KI hier so genutzt werden, dass der Begriff „Vereinbarkeit“ keine leere Worthülse mehr ist?

„Bei Vereinbarkeit ist es mehr die Digitalisierung, die hier eine Hilfe sein kann. Eventuell kann das auch eine KI, aber die Vorteile einer digitalen Welt helfen schon, Vereinbarkeit zu realisieren, wenn sie gut und zielführend eingesetzt werden. Wichtig ist dabei, dass alle Geschlechter gleichermaßen partizipieren.“

Zum Abschluss die Frage: Was war der wichtigste Ratschlag, den du im Laufe deiner Karriere von einer Frau bekommen hast?

„‚Glaub an dich selbst.‘ Das war im Wesentlichen die Botschaft meiner Mutter. Sie hat immer gesagt: Wenn du etwas wirklich durchdrungen hast und davon überzeugt bist, dann kannst du damit viel bewegen, dann kannst du Berge versetzen.
Mit diesem inneren Kompass konnte ich gut meinen Weg gehen und mir immer wieder die Frage stellen: Brauche ich das gerade wirklich? Möchte ich das annehmen? Oder ist es vielleicht sogar schädlich für mich? Das war und ist für mich sehr wichtig.“