Non, les agents IA d’OpenAI et Anthropic ne menacent pas vraiment la cybersécurité
Un nombre croissant de professionnels de la cybersécurité déplorent la façon « IApocalyptique » qu’ont OpenAI, Anthropic et de nombreuses entreprises des Big Tech’ de présenter les capacités des agents IA en matière de cyberattaques.
(pas en accès libre, dommage, ça serait utile à certains qui tombent encore trop facilement dans le panneau)
Les IAs génératives sont des très bons outils pour trouver des failles ignorées par les humains, maintenant les modèles frontier atteignent de plus en plus leurs limites et ne sont que des évolutions incrémentales.
Au final les grosses entreprises américaines ont besoin de ces headlines de merde (on a atteint l’AGI!!!) et ces effets d’annonce pour justifier leurs levées de fond et la course aux data centers.
Les histoires d’IAg ça a effectivement l’air d’être du n’importe quoi pour lever des fonds vu que la définition est complètement floue. Personne n’a l’air capable de dire quels problèmes concrets un super-modèle résoudrait.
Par contre sur la progression des modèles je trouve quand même ça impressionnant : vers 2023-24 je pensais que ça allait rapidement atteindre un plateau par manque de moyen mais ils ont l’air capable d’en trouver toujours plus (en détruisant probablement les conditions d’habitabilité humaines au passage ça c’est une autre histoire)
Qu’est-ce qui te fait dire que les modèles frontiers ont atteint un plateau?
(vu que je n’utilise pas d’IAg je ne suis ça qu’à travers les témoignages et articles de presse ou études)
Elles ont besoin d’interdire les modèles ouverts. C’est surtout de la FUD. Perso je m’attends à un gain net si ça aide à scanner les bases de code pour corriger les failles de sécurité.
deleted by creator
“Fear uncertainty doubt”, une technique de manipulation qui vise à générer ces émotions négatives pour faire accepter une politique ou vendre un produit.
Pour info, on utilise déjà l’IA pour trouver des failles dans les logiciels. On a atteint un nombre record de découvertes et de corrections de failles dans la plupart des logiciels grands publics comme Firefox ou Chromium grâce aux IA ces quelques derniers mois (voire ces deux dernières années, mais ça s’accélère).
deleted by creator
deleted by creator
Sans compter que trouver une nouvelle Zero Day c’est peut être cher, mais tester quelques centaines de failles connues sur ta cible, c’est beaucoup plus facile.
Bah oui, ça s’appelle juste un coup de pub.
Qui aurait pu prédire qu’une machine à hallucinations n’aurait pas d’expertise dans un domaine de pointe ?
