OpenAI Dévoile un Outil de Surveillance Alimenté par l'IA Chinoise
OpenAI a découvert un outil de surveillance chinois alimenté par l'IA qui surveille les publications anti-chinoises sur les plateformes de médias sociaux occidentales. La découverte a été faite lorsqu'un utilisateur de l'outil a sollicité l'aide d'OpenAI pour déboguer. Cet outil, nommé "Peer Review", marque le premier cas dans lequel OpenAI a identifié un tel mécanisme de surveillance alimenté par l'IA, selon Ben Nimmo, un enquêteur principal de l'entreprise.
Nimmo a noté que les acteurs menaçants révèlent parfois involontairement leurs actions en utilisant les modèles d'OpenAI dans des opérations plus larges sur Internet. L'outil signalé utiliserait Llama, une technologie d'IA développée par Meta, qui avait été précédemment publiée en open-source.
OpenAI a également identifié une initiative chinoise distincte nommée "Sponsored Discontent". Cette campagne utilise la technologie d'OpenAI pour générer des publications en anglais qui critiquent les dissidents chinois. Elle traduit également du contenu en espagnol, dans le but de diffuser ces critiques de la société et de la politique américaines en Amérique latine.
Au-delà des opérations chinoises, OpenAI a détecté un autre groupe opérant depuis le Cambodge. Ce groupe utilise la technologie d'OpenAI pour créer et traduire du contenu de médias sociaux pour une escroquerie connue sous le nom de "pig butchering."
Il est intéressant de noter que ces développements coïncident avec une bataille juridique impliquant le New York Times, OpenAI et Microsoft. Le procès tourne autour d'allégations de violation du droit d'auteur concernant des systèmes d'IA. Pour plus de détails, l'article original peut être consulté sur le site du New York Times (note : ceci est un lien no-follow).
Ces découvertes soulignent le paysage dynamique de la technologie de l'IA et ses diverses applications, qui ne sont pas toutes bénignes. À mesure que l'IA continue d'évoluer, le défi de surveiller et de gérer son utilisation dans des contextes mondiaux reste significatif.
