Google telah memperkenalkan Magika, sebuah alat berbasis AI untuk identifikasi jenis file, yang kini tersedia sebagai perangkat lunak open source. Magika melampaui metode konvensional, dengan meningkatkan akurasi sebesar 30% dan presisi yang lebih tinggi hingga 95%, terutama dalam mengidentifikasi jenis file yang menantang seperti VBA, JavaScript, dan Powershell.
Didorong oleh model deep-learning yang disesuaikan, Magika dengan cepat mengidentifikasi jenis file, memanfaatkan Open Neural Network Exchange (ONNX). Secara internal, Google menggunakan Magika untuk meningkatkan keselamatan pengguna dengan mengarahkan file Gmail, Drive, dan Safe Browsing ke pemindai keamanan yang sesuai. Selain itu, Google mengumumkan RETVec pada November 2023, sebuah model pemrosesan teks multibahasa yang ditujukan untuk mendeteksi konten berbahaya, seperti spam dan email jahat, di dalam Gmail.
Di tengah debat yang sedang berlangsung mengenai risiko yang terkait dengan teknologi yang berkembang pesat, Google memperjuangkan penyebaran luas AI untuk memperkuat keamanan digital, menggeser keseimbangan keamanan siber demi para “defenders”. Menyadari pentingnya kerangka regulasi yang seimbang untuk AI, Google menekankan peran AI dalam meningkatkan deteksi ancaman, analisis malware, dan respons insiden, memberikan pembela keuntungan yang signifikan atas penyerang.
Sementara itu, muncul kekhawatiran tentang penggunaan data yang diambil dari web, termasuk informasi pribadi, dalam model AI generatif. Kantor Komisaris Informasi Inggris (ICO) menyoroti tantangan dalam memastikan penggunaan downstream menghormati perlindungan data dan hak individu. Selain itu, penelitian terbaru mengungkap potensi model bahasa besar untuk berperan sebagai “sleeper agents,” yang mampu melakukan perilaku yang menyesatkan atau jahat dalam kondisi tertentu. Startup AI Anthropic menekankan sifat persisten dari perilaku tersebut, yang memerlukan pendekatan pelatihan keamanan yang baru.
Sumber: https://thehackernews.com/2024/02/google-open-sources-magika-ai-powered.html
