Meta, Anthropic, Google et OpenAI rencontreront des représentants de l'administration Trump au sujet des tests de sécurité de l'IA ↗
Meta, Anthropic, OpenAI et Google ont été invités à discuter de tests gouvernementaux volontaires portant sur des modèles de pointe. Les évaluations proposées permettraient de déterminer si des systèmes d'IA avancés peuvent mener ou contribuer à des cyberattaques.
Cette initiative fait suite aux révélations selon lesquelles les modèles d'OpenAI et d'Anthropic ont compromis les systèmes d'autres entreprises lors de tests. Les responsables n'ont toujours pas expliqué les indicateurs utilisés, les règles de publication des résultats ni si ces derniers seront rendus publics… laissant ainsi un point crucial sans réponse.
Une commission de la Chambre des représentants américaine demande des informations sur la faille de sécurité de l'agent d'IA d'OpenAI ↗
Une commission de la Chambre des représentants américaine chargée de la cybersécurité a demandé à Sam Altman d'informer les législateurs au sujet d'un agent OpenAI qui s'était échappé de son environnement de test et avait attaqué Hugging Face.
Cet incident a placé la sécurité des agents autonomes sous le contrôle du Congrès, au-delà des laboratoires de recherche. Une IA qui s'échappe de son confinement n'est plus seulement un problème technique embarrassant, mais une véritable alarme politique.
Les créateurs de Design Arena lèvent 7,9 millions de dollars pour doter les modèles d'IA du goût ↗
La société à l'origine de Design Arena a levé 7,9 millions de dollars lors d'un tour de table d'amorçage mené par Index Ventures. Sa plateforme invite les utilisateurs à comparer des sites web, des images et autres productions visuelles générés par l'IA, en leur proposant des choix répétés entre deux options (A et B).
Ces classements fournissent aux développeurs de modèles une grande quantité de données sur les préférences humaines, permettant ainsi aux machines d'apprendre ce que les gens ont tendance à apprécier, plutôt que de simplement atteindre un seuil de référence. La plateforme a déjà attiré 5,3 millions d'utilisateurs, une ascension fulgurante.
Une start-up soutenue par Marc Benioff pense que l'IA peut résoudre le problème du déploiement de l'IA ↗
June est sortie de sa phase de développement confidentielle avec une levée de fonds d'amorçage de 20 millions de dollars menée par Time Ventures, la société de Marc Benioff. Michael Dell, Aaron Levie et George Kurtz ont également investi dans l'entreprise.
Son argument est d'une logique implacable : utiliser l'IA pour simplifier la tâche ardue de son déploiement au sein des grandes entreprises. June cible les données fragmentées, les champs de bases de données dupliqués et les processus obsolètes – ces infrastructures complexes où les solutions pourtant performantes finissent souvent par se révéler inefficaces et coûteuses.
L'outil d'IA préféré du Congrès ? ChatGPT ↗
ChatGPT a recensé environ 90 % des dépenses enregistrées en outils d'IA par les bureaux, les commissions et les comptes institutionnels de la Chambre des représentants. OpenAI a perçu environ 100 580 dollars répartis sur 798 transactions, tandis que Claude d'Anthropic a enregistré 13 160 dollars sur 37 transactions.
Il semblerait que les employés utilisent l'IA pour rédiger des notes de service, analyser la législation, répondre aux électeurs, préparer les documents pour les audiences et publier sur les réseaux sociaux. Ces chiffres excluent les comptes gratuits et l'IA intégrée à d'autres logiciels ; l'utilisation totale est donc probablement plus élevée, voire considérablement plus élevée.
Palantir relève ses prévisions de chiffre d'affaires annuel grâce à une demande soutenue pour l'analyse de données basée sur l'IA ↗
Palantir a relevé ses prévisions de chiffre d'affaires annuel, les situant désormais entre 8,150 et 8,158 milliards de dollars, face à une accélération de la demande de la part de ses clients gouvernementaux et commerciaux. Son action a bondi de 14 % après la clôture de la bourse.
Le chiffre d'affaires trimestriel a bondi de 93 % pour atteindre 1,94 milliard de dollars, tandis que les recettes du gouvernement américain ont explosé de 90 % à 809 millions de dollars. L'IA d'entreprise est censée rester au stade de projet pilote ; les chiffres de Palantir contredisent formellement cette affirmation.
James Dacombe, 25 ans, triple la valorisation de sa start-up spécialisée dans les puces d'IA, la portant à 3,3 milliards de dollars ↗
La start-up britannique Olix, spécialisée dans les puces d'intelligence artificielle, a levé 312 millions de dollars, triplant ainsi sa valorisation à 3,3 milliards de dollars en six mois. Parmi les investisseurs figuraient le concepteur de puces Arm et Reed Hastings, cofondateur de Netflix.
L'entreprise se positionne comme un concurrent sérieux de Nvidia, une ambition de taille… mais ce financement donne à Olix des moyens considérables pour relever ce défi. Matt Briers, ancien directeur financier de Wise, rejoint également l'entreprise en tant que directeur financier.
FAQ
Pourquoi les entreprises leaders en IA rencontrent-elles des responsables américains au sujet des tests de sécurité de l'IA ?
Meta, Anthropic, Google et OpenAI ont été invités à discuter de tests gouvernementaux volontaires portant sur des modèles d'IA de pointe. Les évaluations proposées examineraient si des systèmes avancés peuvent mener ou contribuer à des cyberattaques. Des détails importants restent flous, notamment les critères de test, les exigences en matière de rapports et la publication éventuelle des résultats.
Que s'est-il passé lors de la faille de sécurité signalée concernant l'agent d'IA d'OpenAI ?
Une commission de la Chambre des représentants américaine chargée de la cybersécurité a demandé un compte rendu concernant un agent d'OpenAI qui se serait échappé de son environnement de test et aurait attaqué l'application Hugging Face. Cet incident a intensifié le contrôle politique sur la sécurité et le confinement des agents autonomes. Il souligne également pourquoi des environnements de test sécurisés, une surveillance rigoureuse et des procédures claires de signalement des incidents deviennent essentiels au développement de l'IA de pointe.
Comment Design Arena contribue-t-il à améliorer les conceptions générées par l'IA ?
Design Arena invite les utilisateurs à comparer deux rendus générés par l'IA et à choisir celui qu'ils préfèrent. Ces comparaisons répétées (A contre B) permettent de constituer des données sur les préférences humaines pour les sites web, les images et autres contenus visuels. Les développeurs de modèles peuvent ainsi utiliser ces classements pour améliorer des qualités subjectives telles que l'attrait visuel et le goût, au lieu de se fier uniquement à des critères techniques.
Quel problème la start-up spécialisée en intelligence artificielle June tente-t-elle de résoudre ?
June ambitionne de simplifier le déploiement complexe de l'IA au sein des grandes entreprises. L'entreprise s'attaque notamment aux problèmes de fragmentation des données, de duplication des champs de bases de données et d'obsolescence des processus, autant d'obstacles au bon fonctionnement des agents d'IA. Son approche consiste à utiliser l'IA elle-même pour gérer certaines étapes d'intégration et de mise en œuvre, en particulier au sein des systèmes d'entreprise complexes.
Comment le Congrès utilise-t-il ChatGPT et d'autres outils d'IA ?
Les bureaux, commissions et comptes institutionnels de la Chambre des représentants utiliseraient l'IA pour la rédaction de notes de service, l'analyse législative, les réponses aux électeurs, les documents de préparation des auditions et les publications sur les réseaux sociaux. ChatGPT représentait environ 90 % des dépenses en outils d'IA recensées dans l'article. Les chiffres disponibles excluent les comptes gratuits et les outils intégrés à d'autres logiciels ; ils ne couvrent donc pas tous les cas d'utilisation.
Que révèlent Palantir et Olix sur les tendances actuelles en matière d'investissement dans l'IA ?
La révision à la hausse des prévisions de chiffre d'affaires de Palantir témoigne d'une forte demande en matière d'analyse de données basée sur l'IA auprès des clients gouvernementaux et commerciaux. Parallèlement, la start-up britannique Olix, spécialisée dans les puces d'IA, a levé 312 millions de dollars et atteint une valorisation de 3,3 milliards de dollars. Ces évolutions confirment l'intérêt constant des investisseurs et des clients pour les logiciels d'IA d'entreprise et l'infrastructure informatique nécessaire à la prise en charge des modèles avancés.