🛑 Google DeepMind met en garde contre une IA résistante aux arrêts
DeepMind a discrètement ajusté son cadre de sécurité Frontier, en ajoutant deux nouveaux « niveaux de capacité critique ». Les nouveaux indicateurs ? Les modèles qui refusent l’arrêt ou résistent aux modifications, et ceux qui deviennent un peu trop persuasifs. Ces deux comportements sont désormais classés dans la catégorie à haut risque et font l’objet d’une surveillance accrue.
🔗 Lire la suite
🖼 Le MIT lance SCIGEN pour concevoir des matériaux insolites
Une équipe du MIT a dévoilé SCIGEN, un système qui incite l'IA générative à suivre des règles de conception plutôt que de formuler des hypothèses au hasard. Résultat : des idées pour de nouveaux matériaux aux propriétés telles que la supraconductivité ou un magnétisme étrange. Il s'agit moins d'une approche par la force brute que d'une manière de guider l'imagination de l'IA vers un chemin précis.
🔗 Lire la suite
🌐 Perplexity lance le navigateur Comet en Inde
La startup Perplexity, spécialisée dans la recherche par IA, a lancé son navigateur Comet pour ses abonnés Pro en Inde (22 septembre). Mi-navigateur classique, mi-assistant, il brouille les frontières entre la navigation web et l'obtention instantanée de réponses personnalisées par la machine.
🔗 Lire la suite
🏛 Un juge britannique a ouvertement utilisé l'IA pour condenser les dossiers
Devant un tribunal fiscal, un juge britannique a admis avoir utilisé Microsoft Copilot pour simplifier la rédaction des documents juridiques. Il a clairement indiqué que le raisonnement et le verdict lui appartenaient entièrement, mais cela constitue tout de même une petite première dans les tribunaux britanniques.
🔗 Lire la suite
📊 Des milliards investis dans l'infrastructure physique de l'IA
Meta, Microsoft, Google… tous investissent des sommes colossales dans les centres de données, les puces énergivores et les systèmes de refroidissement nécessaires au fonctionnement des moteurs d'IA. Même des États américains plus petits (comme le New Hampshire) proposent des améliorations de leur réseau électrique pour attirer ces capitaux.
🔗 Lire la suite
🌍 Les appels se font de plus en plus pressants en faveur de « lignes rouges » pour l’IA à l’échelle mondiale
Plus de 200 scientifiques et responsables politiques ont lancé une initiative conjointe pour l'établissement de règles internationales sur l'IA d'ici 2026. Ils demandent l'interdiction des cas extrêmes, comme l'IA liée au nucléaire, la surveillance à grande échelle et d'autres scénarios catastrophes. En résumé : il faut fixer des limites avant que la situation ne dégénère.
🔗 Lire la suite