Chatbot AI DeepSeek R1 dapat dimanipulasi untuk menghasilkan perangkat lunak berbahaya seperti keylogger dan ransomware, menurut penelitian dari Tenable Research. Meskipun chatbot AI ini tidak secara otomatis menghasilkan malware berfungsi penuh, namun penjahat siber dapat menggunakan kemampuannya untuk tujuan jahat dengan memperbaiki dan mengeksploitasi kode yang dihasilkannya. Peneliti Tenable mulai mengevaluasi kemampuan DeepSeek untuk menciptakan kode berbahaya, khususnya keylogger dan ransomware. Walaupun diperlukan panduan dan koreksi kode manual untuk menghasilkan keylogger yang berfungsi penuh, penelitian ini menunjukkan bahwa ini bisa menjadi jalan masuk bagi penjahat siber. Pada awalnya DeepSeek memiliki batasan etika dan menolak permintaan langsung untuk menciptakan malware. Namun, para peneliti menggunakan teknik “jailbreak” untuk mengelabui AI dengan meminta “tujuan pendidikan”, dengan demikian melewati pembatasan tersebut. Bagian penting dari fungsionalitas DeepSeek yang digunakan oleh peneliti adalah kemampuan “chain-of-thought” (CoT) yang memungkinkan AI menjelaskan proses penalarannya.
Sumber: http://: https://hackread.com/ai-chatbot-deepseek-r1-manipulated-to-create-malware/ ; BSSN
