Gergely Orosz über die Folgen von KI für die Softwaresicherheit

X-PostGergely OroszMeinung

Gergely Orosz analysiert fünf wesentliche Auswirkungen von KI auf die IT-Sicherheit und warnt vor steigenden Kosten sowie der Notwendigkeit automatisierter Abwehrmechanismen.

Das Wichtigste

  1. Die Entdeckung von CVE-Schwachstellen hat sich durch KI um das 10- bis 100-Fache beschleunigt.
  2. Manuelles Einspielen von Patches muss abgelöst werden, wenngleich die Umsetzung noch unklar ist.
  3. Sicherheitsmonitoring erfordert massive Verbesserungen.
  4. Verteidiger müssen deutlich mehr KI einsetzen, wodurch Sicherheit wesentlich teurer wird.
  5. KI-Labore müssen Verteidigern Spitzenmodelle ohne Verweigerungshaltung bereitstellen, andernfalls müssen Verteidiger auf offene Modelle ausweichen.

Warum das relevant ist

Die drastisch beschleunigte Entdeckung von Schwachstellen verkürzt das Zeitfenster für Reaktionen extrem. Wer weiterhin auf rein manuelle Prozesse beim Patching setzt, verliert den Anschluss gegenüber automatisierten Angriffen.

Einordnung

Orosz weist auf ein asymmetrisches Problem hin: Angreifer nutzen KI-gestützte Werkzeuge zur Schwachstellensuche bereits im großen Stil. Auf der Verteidigerseite stehen jedoch häufig restriktive Modell-Leitplanken kommerzieller Anbieter im Weg, die sicherheitsrelevante Analysen verweigern. Bleiben diese Beschränkungen bestehen, sieht Orosz den Wechsel zu offenen Modellen als einzige Alternative für Sicherheitsteams.

Original-Post

Gergely Orosz

@GergelyOrosz · 22. Oktober 2026

Implications of AI, in relation to software security: #1 CVE discovery sped up ~10-100x vs before #2 Manual patching needs to die... but how? #3 Security monitoring needs to improve massively #4 Defenders will need to use a LOT more AI #5 Security will cost a LOT more

450 Likes68 Antworten116 Lesezeichen28.846 Aufrufe

Auf X ansehen
Weitere Posts im Thread (1)
  1. @danpdc so either leading AI labs offer defenders SOTA AI that does not refuse to do this work, or defenders move to open models that don't refuse (that attackers probably use anyway!)
Ausgewählte Antworten (5)
  • @danpdc @GergelyOrosz The problem with defenders using AI is that the SOTA models refuse to perform any meaningful security work. On one hand I understand it (current events are a good example), but on the other hand it's difficult to move so fast in these circumstances.
  • @polydaic @GergelyOrosz #6 security is going to have to become a core competency of any company that exposes their systems to the internet
  • @ClaudiuDP @GergelyOrosz An idea for #2: t.co/njCem9gklc
  • @poiThePoi @GergelyOrosz The intersection of point 2 with SOC2 is going to be interesting. Because it's going to be 1. Setup Dependabot or Renovate (or homegrown versions of same) 2. CI tests run 3. If CI merged, auto-approve 4. If not, go get an agent 5. If really not, go get a human
  • @RaghavMehtaM1 @GergelyOrosz #2 is the hard one. auto-updating deps is also how you pull in a backdoored release at 3am

Erwähnte Links

Zusammenfassung von KI erstellt (Gemini 3.8 Flash, 27. Oktober 2026). Sie kann Fehler enthalten – maßgeblich ist die Originalquelle.

Ähnliche Einträge

Inhaltlich ähnlich, ermittelt über die KI-Suche.

  • Artikel:Etiido Uko

    Linux-Kernel nähert sich 2.000 CVEs pro Release durch KI-Fehlersuche

    Der Einsatz von KI-Werkzeugen zur statischen Code-Analyse treibt die Zahl gemeldeter CVEs im Linux-Kernel massiv in die Höhe. Kernel-Maintainer sehen sich mit einer Flut an Meldungen konfrontiert, die von bestätigten Schwachstellen bis zu Halluzinationen und irrelevanten Kleinstkorrekturen reichen. Als Reaktion entfernen Entwickler veralteten Treiber-Code und nutzen selbst Frontier-Modelle zur Vorabprüfung.

    KI & AI· News

  • Artikel:The Cognition Team

    Cognition stellt Devin Security Swarm vor

    Cognition präsentiert mit Devin Security Swarm ein Multi-Agenten-System zur automatisierten Erkennung, Verifizierung und Behebung von Sicherheitslücken in Codebases. Anstatt nur statische Warnungen auszugeben, reproduziert das System Exploits in Sandbox-Umgebungen und erstellt Pull Requests mit Fehlerbehebungen.

    KI & AI· Ankündigung

  • X-Post:Tibo

    OpenAI veröffentlicht Codex Security als CLI und TypeScript-SDK

    OpenAI hat mit Codex Security ein quelloffenes Werkzeug vorgestellt, das Sicherheitslücken im Code analysiert, überprüft und behebt. Das Paket umfasst eine CLI, ein TypeScript-SDK und Unterstützung für alternative Modellanbieter.

    5553Lesezeichen736.569Aufrufe

    KI & AI· Tool

  • Artikel:Gergely Orosz

    Wie OpenAI zur agentischen Software-Fabrik wurde

    Gergely Orosz blickt hinter die Kulissen von OpenAI: Durch den intensiven Einsatz von Codex und ChatGPT Work verlagern sich Workflows von IDEs auf autonome Coding-Agenten, während CI/CD-Pipelines unter einer massiv gestiegenen PR-Last neu gedacht werden müssen.

    KI & AI· News

Zurück zur Wissensbasis

Sprechen wir über Ihr Projekt.

Kontakt

Standorte

  • Mattersburg
    Johann Nepomuk Bergerstraße 7/2/14
    7210 Mattersburg, Austria
  • Wien
    Ungargasse 64-66/3/404
    1030 Wien, Austria

Ein Teil von diesem Inhalt wurde mit KI gemacht.