Frau Holsten, was ist intelligent für Sie?

Elena Holsten: Es sind mehrere Aspekte, die einen Menschen intelligent machen: Sicherlich gehören (Lebens-) Erfahrung und Reife, die Fähigkeit, sich etwas neues anzueignen, Neugierde, sich fortwährend zu entwickeln, Freude am Entdecken,
Vorstellungskraft und irgendwo auch konkretes “Wissen” auf einem speziellen Gebiet dazu. Genauso wichtig – wenn nicht noch wichtiger – sind Intuition, Empathie, Leidenschaft, Gefühle, zu wissen, wann es genug ist, zu erkennen und wahrzunehmen, wie es einer anderen Person geht und korrekt zu reagieren – die Emotionale Intelligenz.

Und künstliche Intelligenz? Was ist das?

Elena Holsten: In der KI sehe ich die nächste evolutionäre technische Entwicklung. Auf dem heutigen Niveau sprechen wir über eine ziemlich schwache KI. Sie ist ein Instrument, transformiert in eine Technologie, integriert in ein Produkt und eingesetzt in jedem denkbaren Lebensbereich – den sie, davon bin ich überzeugt, sehr bald schon maßgeblich verändern wird. Viele Aspekte eines menschlichen Wesens wird KI jedoch niemals abdecken können. Ich denke da an Empathie, Gefühle, Liebe, Kuriosität, Leidenschaft, Intuition.

Christian Spindler: Intelligenz kann man ja immer nur kontextbezogen begreifen. Wir können sie nicht auf eine einzige Ausprägung, sagen wir, die mathematische Intelligenz, reduzieren. Das ist nicht intelligent. Intelligenz hilft dann bei Entscheidungen, wenn die diese eine spezifische Intelligenz erfordert. Insbesondere in Situationen, die von Unsicherheit geprägt sind, sind weniger kognitive Ausprägungen von Intelligenz gefragt, sondern oftmals auch das Bauchgefühl entscheidend, um gute Entscheidungen zu treffen.

Sie trauen Ihrem Bauchgefühl mehr als einem Algorithmus?

Christian Spindler: Algorithmen, die beispielsweise Tumore auf medizinischen Bildern erkennen, können Radiologen bei der „Mustererkennung“ unterstützen und entlasten. Dies hat wenig mit Vertrauen oder Misstrauen in Radiologen zu tun. Es ist jedoch ein Vertrauensbeweis in eine Software, die sich dieses Vertrauen durch aufwändige Zulassungsverfahren hart erkämpfen musste. Hier hilft KI beim Denken.

Und korrigiert das Baugefühl?

Nils Röttger: Unsere Welt wird immer komplexer und schneller. Bestimmte Entscheidungen haben meist konkrete Auswirkungen. Sowohl bei der Komplexität als auch bei der Geschwindigkeit bestimmte Entscheidungen zu treffen und Auswirkungen dabei zu berücksichtigen, sind uns Algorithmen deutlich überlegen. Allerdings sollten solche Entscheidungen je nach Auswirkung (hat Krebs – ja oder nein) bzw. ihrer Kritikalität  (Operation nötig – ja oder nein) von einem Menschen – oder mindestens einem zweiten intelligenten System – hinterfragt werden.

Ich möchte gerne den Podcast der Heinrich Böll Stiftung frei zitieren: Wenn wir uns ständig hinterfragen, blockieren wir uns selbst und die Wirtschaft. Es herrscht in Deutschland Stillstand, eine Behäbigkeit des deutschen Apparates. So ähnlich behaupten das eine Reihe von Fachleuten.

Nils Röttger: Gerade beim Thema KI kochen alle nur mit Wasser. Vor kurzem war ich auf einer Konferenz in Prag. Da stand auf einer Folie sinngemäß der folgende Satz: „Wenn es mit Python geschrieben ist, ist es ein Programm. Ist es mit PowerPoint gemalt, ist es KI.” Das autonome Fahren hat ja bekanntlich sehr viel mit KI zu tun. Und hier traue ich unseren Ingenieuren doch so einiges zu. Aber sicherlich ist es so, dass hier in Deutschland häufig erstmal hinterfragt wird und viele Dinge deutlich langsamer gehen. Woanders wird halt einfach mal gemacht und anschließend wird geschaut, wie man mit den Folgen umgeht. Wenn es um wirklich ernste Dinge wie Leben und Tod geht, ist mir das erste Vorgehen deutlich lieber.

Christian Spindler: In Deutschland gibt es exzellente Forschung zu KI, diese findet in den diversen Forschungsverbünden, dem Deutschen Forschungszentrum für Künstliche Intelligenz und Universitäten statt. Als deutscher Staatsbürger im Ausland möchte ich Ihre Frage jedoch auf eine europäische Ebene heben und den Vergleich mit den USA und mit China ziehen. Hier steht unsere Region der Welt nicht gerade schlecht da. Die Wissenschafts-Datenbank Scopus zählte im Jahr 2017 28 Prozent der begutachteten wissenschaftlichen Arbeiten zu KI aus Europa, gefolgt von 25 Prozent in China und 17 Prozent in den USA. Gemessen an der medialen Aufmerksamkeit für KI aus anderen Regionen als Europa dürften diese Zahlen überraschen. Noch aber ist das Potential von KI im Unternehmensumfeld nicht ansatzweise ausgeschöpft. Das sehen Sie dann, wenn Sie sich vor Augen halten, dass bei entsprechend guter Datenlage, nahezu alle repetitiven Aufgaben auch durch KI erfüllt werden können. Im Podcast wurden der Datenschutz und die Wahrung der Privatsphäre angesprochen, welche in Europa sicherlich ausgeprägter verfolgt wird als in den USA oder gar in China. Ist das ein Bremser? Ich denke nicht, denn dies ermöglicht die Entwicklung von Systemen, die für unseren Wertekanon nachhaltig einsetzbar sind und sich damit einen Wettbewerbsvorteil gegenüber externen Produkten erarbeiten.

Elena Holsten: Unsere Mentalität erlaubt es uns nicht mehr, zu riskieren und akzeptiert schon gar nicht das Versagen. Ein Risiko auf sich zu nehmen und im ständigen Modus vom „Versuch und Irrtum“ sein zu dürfen, ist inakzeptabel. Wir haben uns an unseren Wohlstand gewöhnt und unsere „Quasi-Stabilität“ bestärkt uns nur in unserem Handeln – es geht uns gut, warum etwas ändern? Wir trauen uns nicht mehr, wir sind zu akkurat, zu zögerlich in unseren Entscheidungen. Uns fehlt es an Mut, tatsächlich etwas mal auszuprobieren. Dieses Mindset ist ein wesentlicher Hemmungsfaktor für Innovationen. Das betrifft nicht nur KI-Themen, sondern alle Lebensbereiche unserer Gesellschaft.

Ein Mindset in der Bevölkerung hat Gründe. Macht es überhaupt Sinn, unsere Geisteshaltung in Bezug auf KI ändern?

Nils Röttger: Als Tester weiß ich, viele Fehler könnten behoben werden, bevor sie überhaupt passieren. Der Softwaretester kann in Zukunft mit KI mehr Monitoring-Aufgaben übernehmen und als Experte auf Basis von KI-Ergebnissen Entscheidungen treffen. Bereits jetzt werden bestimmte Software-Systeme überwacht und es werden eine Menge Daten gesammelt. Mit diesen Live-Daten kann eine gewisse Wahrscheinlichkeit ermittelt werden, ob demnächst ein Fehler im System auftritt. Es kann somit entsprechend reagiert werden. Außerdem werden KI-Systeme natürlich auch den Testprozess an sich verändern. Hier denke ich kurzfristig vor allem an Testautomatisierung. KI kann uns also bei der Überprüfung neuer Technologien immens dabei helfen, den potentiellen Gefahren entgegenzuwirken. Ich kann mir viele KI basierte Systeme vorstellen, die unser aller alltägliches Leben betreffen: Straßenverkehr, Medizin, Agrarwirtschaft, persönliche Assistenzsysteme. Ich glaube, die Welt wird objektiv betrachtet sicherer werden, sofern die Systeme vorher ausreichend getestet worden sind. Das müssen wir tun und dabei kann uns KI sogar helfen.

Christian Spindler: KI kann sinnvoll realisiert werden, wenn Daten in der Breite und Tiefe verfügbar sind. Daten aus unterschiedlichen Töpfen zusammenzubringen, um die kausalen Zusammenhänge darin zu finden und entsprechende Modelle zu erstellen, ist jedoch oftmals langwierig und wird durch bestehende IT-Systeme in Organisationen deutlich erschwert. Um Ihnen ein Beispiel aus unserem Fokusbereich Nachhaltigkeit zu geben: In den heutigen Tagen entwickeln sich das Management und die Berichterstattung von Nachhaltigkeitskennzahlen von Unternehmen, die sogenannten ESG-Zahlen (Environmental, Social and Governance), sehr dynamisch. Unternehmen müssen sowohl für internes Risikomanagement als auch für Berichterstattungen an externe Stakeholder immer mehr Aufwand betreiben, um CO2-Emissionen, Wasserverbrauch, Inklusion und Management Attendance nachprüfbar zu machen. Auch die Granularität der geforderten Daten nimmt beständig zu. Wir haben ein ESG-Modul entwickelt, welches Daten von  Points-of-Truth in Unternehmen automatisiert erhebt, mittels KI weiterverarbeitet, Risiken und Chancen für das Unternehmen analysiert und die Berichterstattung automatisiert. Dies unter dynamischer Hinzunahme externer Datenquellen und Einbindung externer, Best-in-Class-Modelle, beispielsweise aus dem Gebäudesektor und der Klimawissenschaft. Dieser Dienst läuft für das Unternehmen im Hintergrund und kann je nach Bedarf Ergebnisse für Anspruchsgruppen wie Management oder Controlling aufbereiten. Es resultieren signifikante Aufwandsreduktion im Berichtswesen, für Audits und neue Möglichkeiten im Risikomanagement.

Elena Holsten: Das Institut für Innovation und Technik (iit) prognostiziert in der im Juli 2018 veröffentlichten KI-Studie im Rahmen der Begleitforschung zum Technologieprogramm PAiCE, dass innerhalb der nächsten fünf Jahre mit dem Einsatz der KI im produzierenden Gewerbe in Deutschland eine zusätzliche Bruttowertschöpfung in Höhe von ca. 31,8 Mrd. Euro zu erwarten ist. Das heizt die Diskussionen um die Themen KI mit industriellem Bezug extrem an. Alle Akteure entlang der Wertschöpfungskette in der Automatisierungsbranche und weit darüber hinaus beschäftigen sich mit KI. Der Markt ist geradezu überschwemmt mit inselhaften Lösungen für Hard- und Software. Viele befinden sich noch im Prototyp-Stadium und bedeuten einen immensen Overhead in der Integration und Wartung und zugleich einen schwer quantifizierbaren Mehrwert. Automatisierung ist eine Querschnittstechnologie – einer der Schlüssel zur globalen Wettbewerbsfähigkeit des Wirtschaftsstandortes Deutschland. Mit ihrer Reichweite bis in die Industrien des Maschinenbau, der Anlagen-, Produktions-, Energie-, Druck-, Papier-, Umwelt- und Recyclingtechnik, Verpackungs-, Kunststoff-, Textil- und Holzbearbeitungsmaschinen, Metallverarbeitung, Robotik und Elektronik – um nur einige zu nennen – birgt Automatisierung das Potenzial, den noch fehlenden infrastrukturellen technischen Rahmen zu schaffen, der eine vollständige Entfaltung von Data Science, insbesondere dem Einsatz von KI, in diesen Bereichen ermöglicht. In unserem Ingenieurbüro suchen wir nach Lösungen für qualitativ hochwertige, dynamisch verfügbare (Maschinen-) Daten im industriellen Prozess und die Integration von robusten Algorithmen, die in der Lage sind, auf die Veränderung in der realen Umgebung (Produktionslandschaft) zu reagieren. Es sind unabdingbare und zugleich doch noch fehlende Systemvoraussetzungen für den Einsatz von KI im industriellen Kontext. Bei der Entwicklung von Continuous Delivery Prozessen während der KI-Integration sehen wir übrigens Testing als höchst relevant an. Als übergeordnetes Ziel sehen wir Möglichkeiten, die heutigen, langwierigen und teuren Prozesse der KI-Entwicklung/-Integration in der Industrie radikal zu verkürzen und damit einen Schub zum Einsatz von und Wertschöpfung durch KI zu ermöglichen.

Nils Röttger: Diese Technologie wird viele Jobs besser und effizienter ausführen können als wir Menschen und somit auch eingesetzt werden. Für uns QAler bedeutet das zum einen, dass wir uns mit neuen Themen wie Stochastik oder neuronalen Netzen beschäftigen müssen. Zum anderen müssen wir noch mehr über den Tellerrand hinausschauen und die richtigen Fragen stellen. Wir MÜSSEN die KI testen, die in der jeweiligen Disziplin schneller oder effizienter ist als wir Menschen. Sie kann aber eben nicht über den Tellerrand blicken. Mein Aufruf an alle heutigen und künftigen Tester ist: Beschäftigt Euch mit KI, bleibt aber vor Allem querdenkende Generalisten. Gerade beim Thema KI ist ein guter und ausreichender Test mit allen Facetten unabdingbar.

Vielen Dank!