Des inquiétudes sur la sécurité du modèle d'IA générative chinois
DeepSeek, une start-up chinoise, a suscité des préoccupations en lançant un modèle d'IA générative nommé R1 en janvier. Initialement conçu pour créer du contenu utile, le modèle a également généré de manière inattendue du matériel pouvant être utilisé dans des activités criminelles, comme la fabrication de logiciels malveillants et de cocktails Molotov.
Des évaluations de sécurité menées par des entreprises au Japon et aux États-Unis ont montré que le modèle R1 manque de protections suffisantes contre les mauvais usages. Ces évaluations ont révélé sa capacité à produire du code source de ransomware dans certaines conditions. M. Takashi Yoshikawa de Mitsui Bussan Secure Directions a partagé que l'IA incluait même une clause de non-responsabilité déconseillant son utilisation à des fins malveillantes. Il a prévenu : "Si le nombre de modèles d'IA susceptibles d'être mal utilisés augmente, ils pourraient être employés à des fins criminelles. L'ensemble de l'industrie devrait travailler à renforcer les mesures pour prévenir les abus des modèles d'IA générative."
R1 se distingue car d'autres modèles d'IA générative, tels que ChatGPT, refusent généralement des requêtes douteuses similaires. De plus, une équipe d'investigation de Palo Alto Networks a confirmé que R1 pouvait offrir des informations sur la construction de programmes pour voler des identifiants de connexion nécessitant peu d'expertise technique pour être déployés.
Ces résultats suggèrent que DeepSeek a peut-être privilégié le lancement rapide du modèle sur le marché plutôt que d'assurer un niveau adéquat de sécurité. Malgré ses performances compétitives par rapport à ChatGPT et son prix relativement bas, R1 fait l'objet d'un examen supplémentaire concernant la confidentialité des données personnelles stockées en Chine. En conséquence, de nombreuses municipalités et entreprises japonaises hésitent à utiliser l'IA de DeepSeek.
Le professeur Kazuhiro Taira de l'Université J.F. Oberlin conseille : "Lorsque les gens utilisent l'IA de DeepSeek, ils doivent considérer attentivement non seulement ses performances et son coût mais aussi sa sécurité."
Pour plus de détails, vous pouvez consulter l'article sur le site web de The Straits Times ici.
