L’IA va nous tuer. Heureusement, ses fabricants savent comment nous sauver.

Dario Amodei, patron d’Anthropic, nous prévient : il faudrait ralentir le développement de l’intelligence artificielle.

Pourquoi ?

Parce que dans six à douze mois, des groupes d’agents autonomes pourraient devenir suffisamment puissants pour menacer la sécurité d’Internet.

C’est inquiétant.

Heureusement, ceux qui ont dépensé des milliards de dollars pour construire ces intelligences artificielles toujours plus puissantes sont maintenant là pour nous expliquer comment nous protéger d’elles.

Nous voilà rassurés.

« Il faut ralentir ! » dit celui qui accélère…

Il faut reconnaître une certaine beauté au modèle économique de l’IA.

Pendant quelques années, les grandes entreprises du secteur ont expliqué aux investisseurs qu’il fallait aller toujours plus vite.

Plus de puissance. Plus de données. Plus de GPU. Plus de milliards. Plus d’agents autonomes.

Et surtout : ne pas laisser le concurrent prendre six mois d’avance.

Puis, une fois quelques positions dominantes constituées, changement subtil de vocabulaire.

Il faudrait maintenant être prudent.

Auditer. Certifier. Contrôler. Réglementer.

Peut-être même ralentir.

Pas arrêter, évidemment.

Ralentir.

La nuance est importante.

Parce qu’un ralentissement général est nettement plus confortable lorsqu’on a déjà plusieurs kilomètres d’avance.

Le risque est réel. Et c’est justement ce qui rend l’histoire intéressante.

Soyons sérieux un instant : Amodei ne raconte pas nécessairement n’importe quoi.

Les progrès des agents autonomes posent de vraies questions. Des systèmes capables d’utiliser des outils, d’écrire et d’exécuter du code, de chercher des vulnérabilités et de coordonner leurs actions changent effectivement la nature du risque.

Les incidents et expérimentations récents en cybersécurité méritent donc d’être étudiés.

Mais il existe une curieuse tendance dans le débat sur l’IA : dès lors qu’un risque est réel, nous devrions apparemment cesser de nous demander qui bénéficie de la solution proposée.

Or c’est précisément là que commence l’analyse stratégique.

Dario Amodei peut être parfaitement sincère.

Anthropic peut réellement considérer que certains développements sont dangereux.

Et Anthropic peut simultanément avoir un intérêt économique considérable à ce que l’accès au marché devienne plus difficile.

Bienvenue dans le merveilleux monde de la stratégie, où deux choses peuvent être vraies en même temps.

Imaginons donc que nous suivions leurs recommandations

Créons des procédures de certification. Des audits de sécurité. Des évaluateurs indépendants. Des obligations de documentation. Des batteries de tests. Des procédures de conformité. Des responsabilités juridiques nouvelles.

Pourquoi pas des licences pour les modèles les plus puissants ?

Tout cela paraît parfaitement raisonnable.

Il reste juste une petite question.

Combien ça coûte ?

Pour une entreprise valorisée plusieurs dizaines ou centaines de milliards, quelques millions supplémentaires de conformité constituent une ligne dans un budget.

Pour une start-up, ils constituent une barrière à l’entrée.

Pour un laboratoire universitaire, un sérieux problème.

Pour certains projets open source, un mur.

Quelle heureuse coïncidence !

La réglementation destinée à protéger la société pourrait donc également protéger les entreprises qui dominent déjà le marché.

Ce serait évidemment totalement involontaire.

Quand les leaders réclament eux-mêmes des barrières à l’entrée…

C’est exactement pourquoi le modèle classique des cinq forces de Porter était insuffisant et qu’on en a ajouté une : celle de l’État régulateur.

Parce que l’État ne se contente pas d’observer le marché depuis l’extérieur. Il en modifie directement les règles. Il autorise, interdit, taxe, subventionne, certifie, normalise. Et surtout, il détermine parfois qui peut encore entrer sur le marché.

Une norme qui coûte 100 000 euros à respecter n’a absolument pas le même effet sur une entreprise réalisant 50 milliards de chiffre d’affaires que sur une start-up disposant de deux millions de financement.

Sur le papier, la règle est identique. Dans la réalité concurrentielle, elle ne l’est absolument pas.

Voilà pourquoi il faut toujours se méfier lorsque les entreprises dominantes d’un secteur commencent spontanément à réclamer davantage de réglementation.

Pas parce que la réglementation serait nécessairement mauvaise mais parce qu’elles ont généralement les moyens de la supporter. Leurs futurs concurrents, beaucoup moins…

L’open source ? Quelle merveilleuse idée. Tant qu’il reste raisonnable.

Le problème devient encore plus intéressant lorsqu’on regarde l’open source.

Un modèle propriétaire développé par une entreprise disposant de milliards de dollars peut être audité, contrôlé, certifié et documenté.

Mais un modèle ouvert, téléchargeable, modifiable, copiable, exécutable sur des infrastructures différentes ?

Voilà qui devient nettement plus compliqué.

On pourrait donc progressivement aboutir à un marché assez pratique. D’un côté, quelques grands acteurs proposant des IA extrêmement puissantes, dûment certifiées et parfaitement conformes. De l’autre, des acteurs ouverts auxquels on expliquera que certaines capacités sont malheureusement trop dangereuses pour être librement distribuées.

Pour notre sécurité, bien entendu.

Et si, par un incroyable concours de circonstances, cela permet également aux leaders de conserver les modèles les plus puissants derrière leurs API payantes, nous apprendrons à vivre avec cette regrettable conséquence.

Tout le monde peut finalement y trouver son compte

Anthropic et les autres grands acteurs peuvent renforcer leur légitimité institutionnelle et participer à la rédaction des futures règles du jeu. Les gouvernements peuvent montrer qu’ils protègent leurs citoyens. Les consultants peuvent vendre de la conformité IA. Les organismes de certification peuvent certifier. Les juristes peuvent juridiciser.

Et les médias peuvent titrer : « Dans six mois, des IA pourraient mettre fin à l’humanité. »

Tout le monde est content. Enfin, presque.

Il restera peut-être quelques start-up, chercheurs et défenseurs de l’open source pour gâcher la fête en demandant si les règles destinées à sauver l’humanité ne seraient pas, par hasard, légèrement favorables à ceux qui dominent déjà le marché.

Mauvais esprit !

Il existe finalement un scénario encore plus intéressant que celui d’une intelligence artificielle prenant le contrôle d’Internet. Imaginez une industrie dans laquelle quelques entreprises :

1. développent une technologie extrêmement puissante ; 2. expliquent que cette technologie pourrait devenir extrêmement dangereuse ; 3. demandent aux gouvernements de réglementer cette technologie ; 4. participent à la définition des règles ; 5. sont pratiquement les seules à disposer des ressources nécessaires pour respecter ces règles ; 6. et voient ainsi augmenter les barrières à l’entrée de leur propre marché.

Il faut reconnaître que, stratégiquement, c’est assez élégant. Et nul besoin d’imaginer une quelconque conspiration. C’est justement le point essentiel : les intérêts économiques n’ont pas besoin de conspirer pour converger.

Alors, faut-il avoir peur ?

Oui. Probablement.

Mais peut-être pas uniquement de ce dont on nous demande d’avoir peur.

Les agents autonomes constituent un vrai sujet de sécurité. La concentration de la puissance technologique entre quelques entreprises en constitue un autre. Et la possibilité que ces mêmes entreprises contribuent à définir les règles qui détermineront demain qui aura le droit de développer leurs concurrents en constitue un troisième.

Le débat intéressant n’est donc pas : « Dario Amodei dit-il vrai ? »

Il est : « Que produit sur le marché la solution qu’il propose ? »

C’est une question beaucoup moins spectaculaire. Mais en stratégie, c’est généralement la bonne. Car celui qui contrôle les règles n’a même pas besoin de battre tous ses concurrents. Il peut simplement rendre leur entrée beaucoup plus difficile.

Et lorsqu’un leader de marché vient lui-même vous expliquer qu’il serait urgent de relever le pont-levis… il est peut-être prudent de regarder qui se trouve déjà à l’intérieur du château.