Des conseillers de Trump auraient indiqué aux entreprises d'IA qu'ils ne procéderaient pas à des tests de sécurité sur les modèles à poids ouvert, selon des sources ↗
L'administration Trump a indiqué aux principales entreprises d'IA qu'elle ne procéderait pas à des tests de sécurité sur les modèles à poids libre, selon des sources proches du dossier. De ce fait, une part importante de l'évaluation des risques échappe au contrôle gouvernemental.
En pratique, les développeurs et les utilisateurs pourraient devoir assumer une plus grande responsabilité dans l'évaluation des modèles avant leur publication ou leur déploiement. Un facteur favorable à l'innovation, certes… mais le moment est mal choisi, car les modèles ouverts gagnent rapidement en fonctionnalités. (Reuters)
Les modèles d'IA à poids ouvert rattrapent leur retard. Un écart de sécurité persiste. ↗
Le modèle GLM-5.2 de Z.ai ne serait qu'à quelques mois des principaux modèles fermés en matière de capacités cybernétiques et biologiques. Les tests de SaferAI ont démontré qu'il a réussi toutes les tâches offensives cybernétiques ou biologiques à double usage qui lui ont été soumises.
Les modèles fermés peuvent s'appuyer sur l'apprentissage par refus, les classificateurs et les contrôles d'API. Les poids téléchargeables sont d'une autre nature : une fois publiés, les protections peuvent être modifiées ou supprimées, ce qui creuse considérablement l'écart de sécurité. (TechCrunch)
Samsung Electronics lance une technologie de mémoire IA de nouvelle génération ↗
Samsung a dévoilé un prototype de mémoire BV-NAND comportant plus de 400 couches et une nouvelle technique de collage de plaquettes. L'entreprise affirme qu'elle offre une densité de mémoire supérieure d'environ 58 % à celle de la génération précédente, ainsi que des performances de lecture, d'écriture et d'entrée/sortie améliorées.
Samsung a également présenté une mémoire zHBM empilée verticalement et positionnée au-dessus des accélérateurs d'IA. Selon l'entreprise, cette architecture pourrait offrir une densité plus de dix fois supérieure à celle de la HBM5 classique, une efficacité énergétique trois fois plus élevée et une résistance thermique nettement inférieure — des promesses ambitieuses, c'est le moins qu'on puisse dire. (Reuters)
La course aux centres de données pour l'IA fait peser un fardeau locatif de 1 000 milliards de dollars sur les géants de la tech ↗
Microsoft, Meta, Oracle, Amazon et Alphabet ont engagé environ 1 090 milliards de dollars dans des contrats de location qui n'ont pas encore débuté, principalement pour des centres de données dédiés à l'IA. Ces engagements représentent près de quatre fois leurs passifs locatifs comptabilisés.
Cette capacité pourrait alimenter le prochain boom du cloud. Ou, plus pessimiste, contraindre les entreprises à payer pour des infrastructures gigantesques si la demande en IA déçoit – un investissement colossal réalisé avant même que l'on ait vérifié la météo. (Reuters)
Anthropic signe un accord de 10 milliards de dollars avec la startup Volta spécialisée dans le cloud et l'IA ↗
Anthropic aurait conclu un accord avec la startup Volta, spécialisée dans le cloud et l'intelligence artificielle, pour l'achat de 10 milliards de dollars de capacité de calcul sur six ans. Ce contrat soutiendrait un centre de données norvégien d'une capacité de 133 mégawatts.
La société Bitdeer, spécialisée dans le minage de cryptomonnaies, devrait contribuer au développement de cette infrastructure, qui utilisera les systèmes Vera Rubin de Nvidia. Anthropic collectionne les partenariats informatiques à un rythme effréné, sauf que ces partenariats coûtent des milliards. (TechCrunch)
L'IA offre une bouée de sauvetage aux économies émergentes, selon la Banque mondiale ↗
La Banque mondiale affirme que l'IA pourrait permettre aux économies en développement de condenser un siècle de progrès en une décennie, à condition d'améliorer l'accès à l'électricité, la connectivité et les compétences numériques. Des outils plus modestes et adaptés aux contextes locaux pourraient soutenir la santé, l'éducation, l'agriculture et les services publics sans nécessiter de modèles nationaux gigantesques.
Selon ce rapport, 4,5 % des emplois dans les pays à revenu faible et intermédiaire sont concernés par l'IA générative, contre 14,2 % dans les économies plus riches. Cependant, cette promesse s'accompagne de mises en garde importantes concernant les inégalités, la désinformation et la répression politique – une bouée de sauvetage aux multiples pièges. (Reuters)
FAQ
Pourquoi le gouvernement américain ne procède-t-il pas à des tests de sécurité sur les modèles d'IA à poids ouvert ?
D'après l'article, l'administration Trump a informé les principales entreprises d'IA que les modèles à pondération ouverte ne seraient pas inclus dans son cadre de tests de sécurité gouvernementaux. Cette décision renforce la responsabilité des développeurs, distributeurs et utilisateurs de modèles, qui pourraient devoir évaluer indépendamment les risques cybernétiques, biologiques, de mauvaise utilisation et de déploiement avant de diffuser ou d'adopter ces systèmes.
Pourquoi les modèles d'IA à poids ouvert sont-ils plus difficiles à sécuriser que les modèles fermés ?
Les modèles d'IA à poids ouvert peuvent être téléchargés, modifiés et utilisés en dehors de l'infrastructure du développeur d'origine. Par conséquent, les mesures de protection telles que l'apprentissage du refus, les classificateurs et les contrôles d'accès peuvent être affaiblies, voire supprimées. Les modèles fermés sont généralement distribués via des API contrôlées, ce qui permet aux fournisseurs de mieux surveiller leur utilisation, de restreindre l'accès et de mettre à jour les protections après déploiement.
Comment les organisations doivent-elles évaluer les modèles d'IA à pondération ouverte avant leur déploiement ?
Une approche courante consiste à tester le modèle face à des scénarios d'utilisation abusive réalistes, notamment des cyberattaques, des demandes d'autorisation de prélèvements biologiques à double usage et des tentatives de contournement des mesures de sécurité. Les organisations doivent également examiner l'hébergement du modèle, les personnes autorisées à le modifier et les systèmes de surveillance disponibles. Les déploiements à haut risque nécessitent généralement des contrôles d'accès plus stricts et une supervision humaine continue.
À quoi est censée s'améliorer la nouvelle technologie de mémoire basée sur l'IA de Samsung ?
Le prototype BV-NAND de Samsung utilise plus de 400 couches et une technique de collage de plaquettes visant à accroître la densité de mémoire tout en améliorant les performances de lecture, d'écriture et d'entrée/sortie. L'entreprise a également présenté une mémoire zHBM empilée verticalement et positionnée au-dessus des accélérateurs d'IA. Ces architectures sont conçues pour répondre aux besoins en capacité, en énergie et en dissipation thermique engendrés par des charges de travail d'IA de plus en plus intensives.
Pourquoi les contrats de location de centres de données d'IA des géants de la tech sont-ils considérés comme un risque financier ?
Microsoft, Meta, Oracle, Amazon et Alphabet auraient investi environ 1 090 milliards de dollars dans des contrats de location qui n'ont pas encore débuté, principalement liés à des centres de données dédiés à l'IA. Cette capacité supplémentaire pourrait soutenir la croissance rapide de la demande en matière de cloud et d'IA. Cependant, ces entreprises pourraient devoir verser des sommes importantes si la demande se développe plus lentement que prévu ou si l'infrastructure reste sous-utilisée.
Comment l'IA pourrait-elle profiter aux économies émergentes ?
La Banque mondiale affirme que l'IA pourrait aider les économies en développement à renforcer leurs systèmes de santé, d'éducation, d'agriculture et leurs services publics, notamment grâce à des outils adaptés aux besoins locaux. Ces avantages dépendent d'un accès fiable à l'électricité, à Internet et aux compétences numériques. Les gouvernements doivent également gérer les risques tels que les inégalités, la désinformation et la répression politique à mesure que l'adoption de l'IA se généralise.