Forschung und Entwicklung in Informatik, Robotik und künstlicher Intelligenz ist Männersache? Von wegen. Anlässlich 100 Jahre Frauenstudium an der Technischen Universität Wien haben wir dort tätige Expertinnen in diesen Bereichen über ihre Arbeit und bezüglich kritischer Aspekte gefragt.

"Wir hinterfragen nicht ausreichend, was wünschenswert ist"

Frage: Wo sehen Sie aktuell die Gefahr, dass etwas in die falsche Richtung läuft?

Antwort: Aus meiner Perspektive als Soziologin, die im Bereich Mensch-Maschine-Interaktion forscht, sehe ich die größte Gefahr in den unhinterfragten Narrativen, welche Zukunftsroboter wünschenswert sind. Wir erleben derzeit eine öffentliche Debatte über den bevorstehenden Umbruch in der Gesellschaft im Zuge von Roboterisierung und KI. Dabei verbinden sich Technikdeterminismus (die Ursache der Veränderung liegt in der technischen Weiterentwicklung) und Neoliberalismus. Wir hinterfragen nicht ausreichend, welche Technikentwicklung und -anwendung wünschenswert ist, sondern sehen eine rasche Roboterisierung als Notwendigkeit für die Wettbewerbsfähigkeit.

Frage: Wo werden wir die größten Veränderungen wahrnehmen?

Antwort: Es entsteht ein Bewusstsein dafür, dass durch KI und Robotik nicht nur die "dull, dirty and dangerous"-Arbeit abnimmt, sondern vor allem wissensbasierte Berufe verändern werden. Es wird zudem immer schwieriger, die eigene Privatsphäre in Bezug auf die Datensammlung zu erhalten. Es wird ein immer höheres Verständnis vonnöten sein, um sich der andauernden Datensammlung zu entziehen, wobei das auch Verzicht auf ökonomische Vorteile bedeuten wird.

"Informatik ist interdisziplinär, nicht nur Coden"

Frage: Wie beurteilen Sie das Forschungsumfeld für Ihr Fachgebiet in Österreich? Wo sollten wir schnell besser werden?

Antwort: Wir sollten uns jedenfalls vom Mythos befreien, Computer-Science, also Informatik, sei Coden und Programmieren. Codezeilen zu schreiben bedeutet nicht, dass wir es mit Informatikern zu tun haben. Das ist viel zu kurz gegriffen, deswegen sollte Informatik auch von Menschen unterrichtet werden, die Computer-Scientists sind und die notwendige Interdisziplinarität, das Zusammenwirken von Mathematik, Ingenieurwesen, Logik, Softwareentwicklung, verstehen.

Frage: Wo sehen Sie Gefahren und mögliche Fehlentwicklungen in der Robotik, der Artificial Intelligence?

Antwort: Die größte Gefahrenquelle ist sicher der unkon trollierte Einsatz von künstlicher Intelligenz. Also wenn Nichtexperten behaupten, sie verstehen KI, diese Techniken einsetzen und promoten, das kann das gesamte gesellschaftliche Gefüge tatsächlich massiv stören oder zerstören. KI ist keine schwarze Magie, so darf sie auch nicht verkauft werden. Wenn KI-Methoden zur Anwendung kommen, ist es zentral, die Vor- und die Nachteile zu kennen, nur dann wird KI das tun, was wir wollen. Je besser das verstanden wird, desto höher wird auch die Akzeptanz sein.

"Alle Probleme algorithmisch zu lösen ist eine Gefahr"

Frage: Wo sehen Sie die Gefahr der künstlichen Intelligenz?

Antwort: In der Überschätzung der Möglichkeiten und in übergroßem Vertrauen, Probleme zu lösen. Parallel zur Entwicklung der KI werden die spezifischen Fähigkeiten der Menschen, kreative Lösungen für Probleme zu finden, unterschätzt. Menschen können Probleme heuristisch lösen und ihre Strategie flexibel an spezifische Situationen anpassen. Im Rahmen der KI wird angenommen, dass alle Probleme der Welt algorithmisch gelöst werden können. Ich persönlich bezweifle, dass das Sinn macht. Viele Probleme in menschlichen Systemen des Zusammenlebens können zudem nur durch Aushandlungsprozesse gelöst werden, da es ja verschiedene Gruppen mit legitimen Interessen gibt. Derartige Prozesse können nicht auf Computer verlagert werden. Ich halte es für eine wirklich große Gefahr zu versuchen, alle Probleme algorithmisch zu lösen – dadurch werden mehr Schwierigkeiten entstehen als Lösungen gefunden werden. Das bedeutet nicht, dass solche Systeme nicht gut unterstützen können.

Frage: Was ist das Schöne an Ihren Forschungen, was können Sie mitgestalten?

Antwort: Das Spannende an der universitären Forschung ist, dass man unterschiedliche Lösungen breit und kritisch testen kann, ausloten kann, welche Vor- und Nachteile jeweils bestehen.

"Automatisierte Entscheidungsfindung birgt vielerlei Probleme"

Frage: Wo sehen Sie die größten Gefahren in Ihrem Forschungsbereich?

Antwort: Die Entwicklung und den Einsatz automatisierter Entscheidungssysteme sehe ich als eine der größten Gefahren im Zusammenhang mit Robotik und künstlicher Intelligenz. Ein wichtiges Beispiel in diesem Zusammenhang sind autonome Waffen. Vollständig autonome Waffen würden ohne weiteres menschliches Eingreifen über Leben und Tod entscheiden. Die Konsequenzen sind nicht absehbar. Die Hemmschwelle, in einen militärischen Konflikt einzutreten, könnte sinken. Auch muss der Einsatz nicht auf kriegerische Auseinandersetzungen beschränkt bleiben, sondern autonome Waffen könnten auch zur Grenzkontrolle oder zur Überwachung eingesetzt werden. Eine internationale Ächtung autonomer Waffensysteme wird diskutiert, aber militärische Großmächte wie die USA lehnen dies ab.

Der Einsatz automatisierter Entscheidungsfindung birgt auch in anderen Bereichen wie zum Beispiel bei der Einschätzung der Kreditwürdigkeit oder des Gesundheitsstatus vielerlei Probleme. Da unsere Gesellschaft nicht fair ist, sind die Daten, auf die Machi ne-Learning-Systeme angewiesen sind, oft verzerrt. Wenn nicht bewusst Maßnahmen gesetzt werden, wird die Schieflage durch das System festgeschrieben und verstärkt.

"Eine Aufstockung der Fördermittel wäre wünschenswert"

Frage: Wie beurteilen Sie das Forschungsumfeld für Ihr Fachgebiet in Österreich?

Antwort: Der überwiegende Teil meiner Forschungsarbeiten wird aus Drittmittelprojekten finanziert – beispielsweise durch die Österreichische Forschungsförderungsgesellschaft (FFG) oder die Wirtschaftsagentur Wien (WAW). Durch diese Fördermöglichkeiten wird für Forschung im Bereich Artificial Intelligence und Kooperationsmöglichkeiten mit Firmen im Bereich Robotik und autonomes Fahren eine gute Basis geschaffen. Eine weitere Aufstockung der Fördermittel für angewandte Forschung wäre wünschenswert, um näher an jene Bedingungen, die Forscher auf diesem Gebiet etwa in Deutschland, den USA oder China vorfinden, heranzukommen.

Frage: Wo sehen Sie die Gefahren in Ihrem Forschungsfeld?

Antwort: Im Visual Computing haben Deep-Learning-Verfahren in den letzten Jahren die Qualität von Personenerkennung und Gesichtsanalyse aus Videoaufnahmen sprunghaft verbessert. Diese aus wissenschaftlicher Sicht sehr erfreuliche Entwicklung birgt auch Herausforderungen beim Schutz der Privatsphäre und bei der verantwortungsvollen Weiterverwendung von umfangreichen Datensammlungen, die für den Forschungsfortschritt unumgänglich sind. Hier ist eine Interdisziplinarität gefordert.

"Die Gestaltung liegt in unserer Hand"

Frage: Wo werden wir am deutlichsten Veränderungen erleben?

Antwort: Wir sind mitten in diesem Transformationsprozess. Als Universaltechnologie verändert KI wie der elek trische Strom und das Internet alle Lebens- und Arbeitsbereiche, und das zum Teil radikal. Die Sammlung und Auswertung von Unmengen an Daten, egal in welchen Bereichen, erlauben gezieltere Prognosen über die Zukunft. Wir hoffen, damit bessere Entscheidungen treffen zu können. Das wird die Qualität in der Gesundheitsvorsorge verbessern können, wir werden schonender mit Ressourcen umgehen können, Unternehmen werden ihre Aktivitäten zielgenauer abstimmen können. Aber: All diese Vorteile stehen den Risiken der Manipulation, Überwachung und Ausbeutung gegenüber.

Frage: Wo müssen wir genau hinsehen?

Antwort: Die laufenden Entwicklungen führen auch zur schrittweisen Einschränkung der menschlichen Freiheit und werfen daher zwangs läufig Fragen in Bezug auf die Auswirkungen auf unsere Demokratie auf. Insgesamt geht es um die Gestaltung des Mensch-Maschine-Verhältnisses, etwa wie Arbeit der Zukunft aussieht, welche unterstützenden Tätigkeiten Roboter ausführen werden. Es liegt in unserer Hand, wie wir das gestalten wollen.

"An welchen Werten orientieren wir uns?"

Frage: Was ist das Schöne an Ihrer Arbeit?

Antwort: Wir beschäftigen uns nicht nur in der Informatik mit den Auswirkungen der Entwicklung in der Digitalisierung und der Interaktion von Mensch und Maschine. Im "Wiener Manifest des digitalen Humanismus" sind Thesen und Forderungen für die Umsetzung eines digitalen Humanismus aufgestellt, dahinter stehen Forscherinnen und Forscher aus vielen Disziplinen weltweit. Eine zen trale Frage darin lautet: An welchen Werten orientieren wir uns? Geht es ums Gemeinwohl oder um Privatinteressen, und was verstehen wir jeweils darunter? Das sind Themen, denen wir uns intensiv und parallel zu einer digitalen Transformation unserer Gesellschaft stellen.

Frage: Wo werden wir die deutlichsten Veränderungen durch künstliche Intelligenz und Robotik erleben?

Antwort: Die Arbeitswelt wird sich grundlegend verändern. Die Digitalisierung bedeutet eine wirklich umwälzende Änderung, auch der Konsumwelt, und wird das Verhältnis von Mensch und Maschine auf eine neue Stufe stellen. Unsere Gesellschaft wird sich dadurch ändern. Auch da stellt sich immer auch die Wertefrage. Deshalb ist es notwendig, darauf zu achten, niemanden von der Nutzung, aber auch nicht von der Entwicklung neuer Technologien auszuschließen. (Nachgefragt: Karin Bauer, 13.12.2019)