OpenAI va suspendre certains travaux sur son modèle d'IA Astra en raison de problèmes de sécurité ↗
OpenAI suspend ses travaux internes sur Astra, qui ne répond pas aux exigences de sécurité renforcées, après que des évaluations ont suggéré que ses capacités cybernétiques pourraient avoir franchi un seuil critique. L'agent pourrait, selon certaines informations, trouver et exploiter des vulnérabilités sans intervention humaine, ou mener des attaques à grande échelle. En effet, franchir une limite est loin d'être négligeable.
L'entreprise renforce ses contrôles en matière de tests isolés, d'accès au réseau et aux outils, de protection du poids des modèles, de chiffrement et de surveillance. Astra n'était pas impliquée dans l'incident Hugging Face d'OpenAI, mais la tendance générale à l'autonomie croissante des agents rend le confinement beaucoup plus préoccupant. (Source : The Guardian)
Apple affirme que les utilisateurs de Mac en Chine peuvent se connecter au service d'intelligence artificielle Qwen d'Alibaba ↗
Les utilisateurs Mac éligibles en Chine continentale peuvent désormais connecter Qwen d'Alibaba à Siri et aux outils d'écriture d'Apple. Ils bénéficieront ainsi de réponses plus détaillées, d'une analyse des documents et des images, ainsi que de la génération de texte et d'images à partir de descriptions.
Franchement, c'est une alliance intéressante : Apple obtient un accès localement conforme à la réglementation pour des fonctionnalités d'IA plus performantes sur un marché PC ultra-concurrentiel, tandis qu'Alibaba voit Qwen s'intégrer beaucoup plus profondément dans son écosystème. Apple affirme que les données transmises via cette extension ne peuvent pas être utilisées par Alibaba pour entraîner ses modèles. (Source : Reuters)
Google DeepMind entre dans une nouvelle ère alors que son cofondateur, Demis Hassabis, change de rôle dans le domaine de l'IA ↗
Demis Hassabis quitte la direction opérationnelle de DeepMind pour devenir président et directeur scientifique d'Alphabet. Son collaborateur de longue date, Koray Kavukcuoglu, prend la direction des opérations en tant que vice-président senior plutôt que PDG – un changement de titre subtil mais révélateur.
Ce remaniement intervient alors que d'autres chercheurs importants quittent leurs fonctions et soulèvent des questions quant à une possible perte d'indépendance de DeepMind et une absorption accrue par la machine d'IA commerciale de Google. Google conteste tout lien entre ce changement et les performances concurrentielles de Gemini. (Source : The Guardian)
Un nombre croissant d'enfants britanniques déclarent avoir vu des deepfakes explicites d'eux-mêmes ↗
Les signalements d'enfants britanniques concernant des images truquées ou manipulées à caractère sexuel les représentant ont explosé. L'organisme Report Remove a reçu 420 signalements en seulement six mois, dépassant déjà son total annuel précédent de 397. Les outils de « nudification » basés sur l'intelligence artificielle facilitent grandement l'expansion du problème.
L'Internet Watch Foundation affirme que de nombreuses images manipulées signalées étaient suffisamment graves pour constituer du matériel pédopornographique. Certaines victimes ont également été ciblées pour du chantage sexuel, transformant une image générée par intelligence artificielle en une arme bien réelle. (Source : The Guardian)
Les fonctionnalités d'IA progressent plus vite que leur valeur commerciale, selon une enquête ↗
Les éditeurs de logiciels d'entreprise multiplient les fonctionnalités d'IA, mais les clients ne les utilisent pas forcément. Dans une enquête menée auprès de plus de 260 entreprises de logiciels verticaux, 51 % ont déclaré que moins d'un quart de leurs clients utilisaient les fonctionnalités d'IA qu'ils avaient développées. Un peu gênant après tous ces déploiements….
Le principal obstacle semble moins résider dans les capacités de l'IA que dans son intégration, sa sécurité, la protection de la vie privée, les modifications des flux de travail et la démonstration concrète de sa valeur ajoutée pour l'entreprise. Un phénomène particulièrement singulier est le « tokenmaxxing » : une forte consommation d'IA qui impressionne sur un tableau de bord sans preuve tangible de meilleurs résultats. (Source : Forbes)
L'IA transforme le travail plus vite que les données ne peuvent suivre ↗
Le débat sur l'emploi lié à l'IA se complexifie au lieu de s'éclaircir. Une étude menée auprès de plus de 21 000 entreprises américaines a révélé que celles qui avaient le plus adopté l'IA ont vu leurs effectifs totaux augmenter de 10 % et leurs embauches de débutants de 12 %, tandis que celles qui l'avaient moins intégrée n'ont enregistré aucune croissance de leurs effectifs.
D'autres études ont toutefois mis en évidence des tensions sur l'emploi chez les jeunes travailleurs occupant des postes exposés à l'IA, et les économistes préviennent que les entreprises en croissance peuvent encore embaucher malgré les transformations que l'IA induit dans l'ensemble de l'économie. L'IA détruit donc des emplois tout en en créant… du moins, c'est ce que semblent indiquer des données contradictoires. (Source : Fortune)
FAQ
Quelles sont les principales actualités en matière d'IA actuellement ?
L'actualité récente en matière d'IA met en lumière plusieurs thèmes récurrents : des capacités autonomes renforcées, des contrôles de sécurité plus stricts, une intégration plus poussée aux plateformes, des changements de direction, des risques accrus pour la sécurité en ligne et une valeur commerciale incertaine. OpenAI renforce la sécurité autour d'Astra, Apple connecte Qwen aux Mac en Chine et DeepMind renouvelle son équipe dirigeante. Parallèlement, les inquiétudes grandissent concernant les deepfakes, l'adoption de l'IA par les entreprises et son impact sur l'emploi.
Pourquoi OpenAI a-t-il suspendu certains travaux sur Astra ?
OpenAI aurait suspendu les développements internes d'Astra qui ne répondaient pas aux exigences de sécurité renforcées, suite à des évaluations suggérant que les capacités cybernétiques du modèle pourraient avoir atteint un niveau critique. Le risque est qu'un agent avancé puisse potentiellement découvrir et exploiter des vulnérabilités avec une intervention humaine limitée, voire nulle. En réponse, OpenAI renforce les tests isolés, les contrôles d'accès, le chiffrement, la surveillance et la protection des pondérations du modèle.
Comment Alibaba Qwen fonctionnera-t-il avec les Mac d'Apple en Chine ?
Les utilisateurs Mac éligibles en Chine continentale peuvent connecter le service Qwen d'Alibaba à Siri et aux outils d'écriture d'Apple. Cette intégration permet des réponses plus détaillées, l'analyse de documents et d'images, ainsi que la génération de texte ou d'images à partir de descriptions. Pour Apple, cet accord offre une solution adaptée au contexte local pour un accès plus performant à l'IA, tandis qu'Alibaba bénéficie d'un accès privilégié à l'écosystème Apple. Apple précise que les données soumises ne peuvent pas être utilisées pour entraîner les modèles d'Alibaba.
Que signifie le changement de direction chez DeepMind pour l'IA de Google ?
Demis Hassabis quitte la direction opérationnelle de DeepMind pour devenir président et directeur scientifique d'Alphabet. Koray Kavukcuoglu prendra la direction des opérations en tant que vice-président senior. Ce changement soulève des questions quant à une éventuelle intégration plus étroite de DeepMind aux activités commerciales d'IA de Google, bien que Google conteste tout lien entre ce remaniement et les performances de Gemini.
Pourquoi les deepfakes basés sur l'IA deviennent-ils une préoccupation croissante en matière de sécurité des enfants ?
Les outils de manipulation d'images basés sur l'IA facilitent la création à grande échelle de fausses images explicites et réalistes. Au Royaume-Uni, de plus en plus d'enfants signalent des images manipulées ou fabriquées d'eux-mêmes, et certains cas sont suffisamment graves pour être qualifiés de matériel pédopornographique. Ces images peuvent également servir au chantage sexuel, ce qui signifie qu'une image fabriquée peut causer un préjudice important en termes de réputation, de bien-être émotionnel et de finances.
Les entreprises et les travailleurs bénéficient-ils déjà de l'IA ?
Les dernières actualités concernant l'IA suggèrent une réponse mitigée. De nombreuses entreprises de logiciels intègrent des fonctionnalités d'IA plus rapidement que leurs clients ne les adoptent, l'intégration, la confidentialité, la sécurité et la valeur commerciale mesurable demeurant des obstacles majeurs. Les données sur l'emploi sont tout aussi complexes : certaines entreprises ayant fortement adopté l'IA recrutent davantage, tandis que d'autres études mettent en évidence une pression accrue sur les jeunes actifs occupant des postes exposés à l'IA. L'impact global dépend fortement du secteur d'activité, des processus et du mode de mise en œuvre de l'IA.