Wie verändert generative KI die Bedrohungslage für Unternehmen und staatliche Institutionen? Diese Frage steht im Mittelpunkt der neuen Folge des F.A.Z. KI-Podcasts mit Claudia Plattner, Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI). Im Gespräch warnt sie angesichts der neuen Qualität von KI-gestützten Cyberangriffen: „Wir stellen uns auf raues Wetter ein.“ Das Kernproblem der Cyberabwehr sieht sie in einer fundamentalen Asymmetrie: Während Unternehmen durch Freigabeprozesse gebremst würden, agierten kriminelle Netzwerke hochgradig arbeitsteilig und regellos: „Die haben Stand heute einen echten Geschwindigkeitsvorteil“. KI verschärfe dieses Ungleichgewicht weiter, da Angreifer Schwachstellensuche und die entsprechenden Attacken automatisieren und skalieren könnten. Das Bild des Hackers im Kapuzenpullover mit leeren Pizzakartons sei schlicht überholt, so Plattner. Ein konkretes Sicherheitsdefizit sieht die BSI-Präsidentin beim Identitätsmanagement für autonome KI-Agenten. Agieren solche Systeme im Namen von Unternehmen, zum Beispiel beim Versenden von E-Mails oder dem Zugriff auf Webdienste, fehle es noch an robusten Standards, die sicherstellten, dass sie nicht mehr täten als erlaubt. „Da sehe ich noch zu wenig Bewegung“, mahnt sie und verweist auf den Hauptgrund: „Im Moment haben natürlich auch alle Dollarzeichen in den Augen.“ Zudem weist sie auf ein weiteres strukturelles Risiko hin: Wer Firmenwissen ohne entsprechende Einschränkung bezüglich der Datenverwendung in KI-Systeme eingebe, riskiere, dass Daten an Wettbewerber abfließen. Europa müsse deshalb eigene Foundation Models entwickeln. Um der veränderten Bedrohungslage insgesamt zu begegnen, setzt das BSI auf den Ausbau staatlicher Strukturen, auch mit dem neuen AI Security Institut. Ziel sei es, neue KI-Modelle systematisch zu bewerten und sich im internationalen Verbund auszutauschen. Daneben setze das BSI auf den sogenannten „Cyberdome“: Phishing-Domänen sollen automatisch erkannt und blockiert werden, bevor Nutzer sie überhaupt aufriefen. Was heute noch Handarbeit sei, solle künftig vollautomatisiert ablaufen: Auffälligkeiten erkennen, Handlungsempfehlungen durch Analysen generieren und entsprechende Aktionen ausführen. Geplant seien auch systematische Scans auf Schwachstellen in der deutschen Netzinfrastruktur.Mit Blick auf die Zukunft schätzt Plattner zudem die Risiken durch Quantencomputing ein, wodurch gängige Verschlüsselungsverfahren zukünftig entschlüsselbar werden könnten. Das BSI empfiehlt daher, sensible Datenbestände bis 2030 auf neue Verfahren umzustellen. Die BSI-Chefin nimmt die Unternehmen in die Pflicht: „Wir nehmen das ernst. Tut ihr es auch.“

Die Folge ist Teil unseres Podcasts „Künstliche Intelligenz“. Er geht den Fragen nach, was KI kann, wo sie angewendet wird, was sie bereits verändert hat und welchen Beitrag sie in der Zukunft leisten kann. Hosts des Podcasts sind Peter Buxmann, Inhaber des Lehrstuhls für Wirtschaftsinformatik an der TU Darmstadt, und Digitalwirtschaft-Redaktionsleiter Holger Schmidt. Die Podcast-Folgen erscheinen jeweils am ersten Mittwoch im Monat.