Generative KI: Das anspruchsvollste Werkzeug, das jemals erfunden wurde

Es scheint so, als würden wir uns gerade mühsam von einem Schock erholen. Nachdem zuerst vielstimmig versucht wurde, das Phänomen ChatGPT in Superlativen zu fassen, herrscht plötzlich merkwürdige Stille. Es geht ja nicht nur um ChatGPT, wir diskutieren vielmehr die generellen Chancen und Risiken, die generative KI-Anwendungen bieten. Und die sollten nach den gleichen Kriterien bewertet und beurteilt werden, die sich auch sonst oft genug bewährt haben: durch kühle, rationale Abwägung der potenziellen Vorteile und Risiken für alle Lebensbereiche – von Technik und Wirtschaft bis zu Umwelt und Gesellschaft.

Wir sollten mittlerweile wissen, dass Fortschritt immer Janus-köpfig ist. Gibt es irgendeine Technologie, die im Laufe der Zeit nicht pervertiert wurde? Für Hinweise wäre ich dankbar. Die Ursachen dafür liegen aber nicht in der Technologie selbst, sondern an der Art und Weise, wie wir damit umgehen. Damit sind wir – wieder einmal – bei dem notwendigen normativen Handlungsrahmen für eine technische Innovation, also um die Vereinbarung und Einhaltung gesetzlicher und ethischer Regelungen für deren Nutzung. Eigentlich sollten wir ja daran gewöhnt sein. Schließlich gilt offensichtlich immer noch das berühmte Mooresche Gesetz mit seinem Zwei-Jahres-Rhythmus.

Generative KI ist beherrschbar

Schauen wir uns also konkret die Risiken an, die generative KI für die Cyber-Sicherheit mit sich bringen kann. Ja, ChatGPT und ähnliche Ansätze sind eine potenzielle Gefahr, sofern wir den Umgang damit nicht lernen. Dazu müssen wir zuerst klären, wie KI-Technologie zur Täuschung eingesetzt werden kann. Ein mögliches Szenario ist die Optimierung von Phishing-Mails. KI sorgt dafür, dass sie echten E-Mails immer ähnlicher werden, potenzielle Opfer damit gezielter täuschen und so die Nutzungsrate erhöhen.

Die Abwehr dagegen muss an zwei Punkten ansetzen: erstens an der Technologie selbst. Generative KI kann nicht nur als Angriffs-, sondern auch als Verteidigungswaffe eingesetzt werden. Das Stichwort lautet Janus-Köpfigkeit von Technologien. Bei Penetrationstests beispielsweise hat es sich als zielführend erwiesen, die Angriffswerkzeuge selbst dafür zu nutzen, den Schutz der eigenen Systeme zu verifizieren. Man fühlt sich hier unwillkürlich an den berühmten Wettlauf zwischen Hase und Igel erinnert. Das zeigt aber auch, dass generative KI uns nicht überfordert, wenn wir sie richtig nutzen.

Generative KI und der menschliche (Risiko-)Faktor

Die beste Technologie nützt jedoch nichts, wenn sie unwissend oder fahrlässig genutzt wird. Damit sind wir beim zweiten Punkt. In Bezug auf ChatGPT gilt das vor allem für unseren Umgang mit Themen wie Authentizität, Originalität und Vertrauen. Generative KI simuliert Echtheit, also müssen wir genauer hinschauen und kritischer prüfen, bis hin zu einem Zero-Trust-Ansatz. Das gilt nicht nur für die IT-Sicherheit, sondern generell. Deshalb sind Schulung und Training als laufender Prozess so wichtig. Denn eines bleibt auch im KI-Zeitalter gleich: die größte Gefahrenquelle ist immer noch der Mensch.

Die Kombination von normativem Handlungsrahmen, sinnvoll eingesetzter Technik und geschultem Verhalten im Umgang damit scheint der beste Weg, aus KI-Anwendungen wie ChatGPT ein wertvolles Werkzeug zu machen. Ein schwierigeres, anspruchsvolleres hat die Menschheit noch nie gehabt. Die Kontrolle darüber ist eine Frage der richtigen Balance. Wir können und müssen lernen, generative KI genau so zu sehen und damit zu leben. Denn eines dürfte klar sein: Die Alternative „Abschalten“ ist längst passé. Die Büchse der Pandora ist längst offen – vergessen wir nicht hineinzuschauen. Denn es ist nicht allein die Hoffnung, die uns hilft, die Risiken in den Griff zu bekommen und zu kontrollieren.

Return on Investment bestimmt die digitale Transformation

Die neue Studie „Voice of Our Clients 2023“ von CGI zeigt die rapide wachsende Bedeutung der Digitalisierung für die Veränderung der Geschäftsmodelle. Für inzwischen zwei Drittel der Führungskräfte hat sie hohen Einfluss auf ihr Unternehmen, das sind zehn Prozent mehr als noch vor zwei Jahren. Auffallend ist, dass sich Führungskräfte bei der Umsetzung der Strategien für die digitale Transformation ihrer Unternehmen immer stärker auf diejenigen Aktivitäten mit dem höchsten Return on Investment (ROI) konzentrieren.

Über 90 Prozent der Befragten haben daher bereits eine Digitalstrategie und 31 Prozent sind gerade dabei, diese auf ihr externes Ökosystem auszudehnen. Aber auch wenn dies einen Fortschritt gegenüber früheren Untersuchungen darstellt, erzielen nur 30 Prozent bereits die gewünschten Resultate ihrer digitalen Strategien. Diejenigen Unternehmen, die dies bereits berichten können, werden als Digital Leader bezeichnet. Die CGI-Studie zeigt die Überlegenheit digitaler Leader in folgenden vier Bereichen:

1. Die Verbindung und Integration von Business- und IT-Abteilungen zur Umsetzung von Strategien
2. Die Agilisierung von Geschäftsmodellen für die weitere Digitalisierung
3. Die Ausweitung ihrer Digitalisierungs-, Daten- und Cybersecurity-Strategien auf ihre externen Ökosysteme
4. Geringere Herausforderungen durch Legacy-Systeme und Kulturwandel.

Korrelation zwischen Agilität und Digitalstrategie

Die Studie von CGI zeigt insbesondere eine Korrelation zwischen der Agilität von Geschäftsmodellen und den Resultaten digitaler Strategien. Führungskräfte, die die eigene Agilität sehr hoch einstufen, erzielen mit dreifach höherer Wahrscheinlichkeit die erwarteten Ergebnisse ihrer Digitalstrategien. Kritisch ist in diesem Kontext zu bewerten, dass nur rund 20 Prozent der Befragten sagen, dass ihr Geschäftsmodell bereits agil genug für die Digitalisierung sei, inklusive der Adaption neuer Technologien wie etwa KI. Für zwei von fünf Führungskräften zählen die Legacy-Systeme dabei zu den häufigsten Innovationsbarrieren bei der Digitalisierung.

Bei der Frage nach der Datenstrategie geben inzwischen 20 Prozent der Befragten an, ihre Datenstrategie in ihrer eigenen Wertschöpfungskette auch auf ihre Partner erweitert zu haben. Um die Datenstrategie zu optimieren, investieren die befragten Führungskräfte am häufigsten in die Verbesserung der Datenqualität (83 Prozent) sowie in Datenmanagement und Data Governance (83 Prozent).

Für die Studie „Voice of Our Clients 2023“ hat CGI weltweit 1.764 Business- und IT-Führungskräfte aus 21 Branchen befragt. Die 1976 gegründete CGI Group gehört zu den größten unabhängigen Anbietern von IT- und Geschäftsprozessdienstleistungen. Das Unternehmen bietet ein breites Portfolio an Dienstleistungen – von strategischem IT- und Business-Consulting über Systemintegration, Managed IT und Business Process Services bis hin zu Intellectual-Property-Lösungen. (sg)

Lesen Sie auch: ChatGPT: Wie das KI-Tool Unternehmen vor ein Management-Dilemma stellt