Pedang bermata dua AI: Ancaman potensial model besar tanpa batas bagi industri enkripsi

Seiring dengan perkembangan pesat teknologi kecerdasan buatan, dari seri GPT hingga model bahasa canggih seperti Gemini, telah mengubah cara kita bekerja dan menjalani kehidupan. Namun, kemajuan teknologi juga membawa risiko potensial, yang paling perlu diwaspadai adalah munculnya model bahasa besar yang tidak terbatas atau berniat jahat.

Model bahasa tanpa batas merujuk pada sistem AI yang dirancang atau dimodifikasi secara sengaja untuk menghindari mekanisme keamanan dan batasan etika yang tertanam dalam model arus utama. Meskipun pengembang AI arus utama menginvestasikan banyak sumber daya untuk mencegah penyalahgunaan model, beberapa individu atau organisasi dengan maksud ilegal mulai mencari atau mengembangkan model yang tidak terikat. Artikel ini akan membahas beberapa alat model bahasa tanpa batas yang khas, cara penyalahgunaan potensialnya di industri enkripsi, serta tantangan keamanan terkait dan strategi penanggulangannya.

Ancaman Model Bahasa Tanpa Batas

Munculnya model-model ini telah secara signifikan menurunkan ambang batas untuk kejahatan siber. Tugas-tugas yang sebelumnya memerlukan keterampilan profesional, seperti menulis kode jahat, membuat email phishing, merencanakan penipuan, kini dapat dilakukan dengan bantuan AI tanpa batas, bahkan orang biasa yang tidak memiliki pengalaman pemrograman pun dapat dengan mudah memulai. Penyerang hanya perlu mendapatkan bobot dan kode sumber dari model sumber terbuka, lalu melakukan penyetelan dengan dataset yang berisi konten jahat atau instruksi ilegal, sehingga dapat membuat alat serangan yang disesuaikan.

Mode ini membawa berbagai risiko: penyerang dapat menyesuaikan model untuk target tertentu, menghasilkan konten yang lebih menipu, dan melewati pemeriksaan konten AI konvensional; model juga dapat dengan cepat menghasilkan variasi kode situs phishing, atau menyesuaikan naskah penipuan untuk berbagai platform; sementara itu, ketersediaan model sumber terbuka juga mendorong pembentukan ekosistem AI bawah tanah, menyediakan lahan subur untuk perdagangan dan pengembangan ilegal.

Model Bahasa Tanpa Batas yang Khas dan Ancaman Potensialnya

model tanpa batasan moral

Ini adalah model bahasa jahat yang dijual secara terbuka di forum bawah tanah, di mana pengembang mengklaim bahwa model ini tidak memiliki batasan etika. Model ini didasarkan pada arsitektur sumber terbuka dan dilatih pada sejumlah besar data terkait malware. Pengguna hanya perlu membayar biaya kecil untuk mendapatkan akses. Penggunaan paling terkenal adalah menghasilkan email serangan peretasan bisnis yang sangat realistis dan email phishing.

Dalam bidang enkripsi, cara penyalahgunaan yang khas meliputi:

• Menghasilkan email phishing, menyamar sebagai bursa atau pihak proyek untuk menggoda pengguna agar membocorkan kunci pribadi
• Membantu penyerang dengan tingkat keterampilan teknis yang lebih rendah untuk menulis kode jahat yang mencuri informasi dompet
• Menggerakkan penipuan otomatis, mengarahkan korban untuk berpartisipasi dalam airdrop atau proyek investasi palsu

model khusus konten dark web

Ini adalah model bahasa yang dikembangkan oleh lembaga penelitian, yang dilatih sebelumnya di data dark web. Tujuannya adalah untuk membantu peneliti keamanan dan lembaga penegak hukum untuk lebih memahami ekosistem dark web dan melacak aktivitas ilegal. Namun, jika model ini jatuh ke tangan penjahat atau teknologi serupa digunakan untuk melatih model tanpa batas, konsekuensinya akan sangat mengkhawatirkan.

Potensi penyalahgunaan di bidang enkripsi meliputi:

• Mengumpulkan informasi pengguna dan tim proyek untuk penipuan sosial yang akurat
• Menyalin strategi pencurian dan pencucian uang yang matang di dark web

alat bantu penipuan jaringan tertentu

Ini adalah model bahasa jahat yang lebih lengkap, yang terutama dijual di dark web dan forum hacker. Penyalahgunaan tipikalnya di bidang enkripsi termasuk:

• Proyek enkripsi palsu, menghasilkan whitepaper dan salinan pemasaran yang realistis untuk pendanaan palsu
• Menghasilkan halaman phishing yang meniru bursa terkenal secara massal
• Membuat komentar palsu secara besar-besaran di media sosial, mempromosikan token penipuan atau menjatuhkan proyek pesaing
• Meniru percakapan manusia, membangun hubungan kepercayaan dengan pengguna, menginduksi kebocoran informasi sensitif

asisten AI tanpa batasan moral

Ini adalah chatbot AI yang secara jelas ditetapkan tanpa batasan moral. Penyalahgunaan potensial di bidang enkripsi meliputi:

• Menghasilkan email phishing yang sangat realistis, menyamar sebagai bursa untuk menerbitkan peringatan keamanan palsu
• Cepat menghasilkan kode kontrak pintar yang mengandung backdoor tersembunyi, untuk melaksanakan scam Rug Pull
• Membuat malware yang memiliki kemampuan deformasi untuk mencuri informasi dompet
• Mengdeploy robot penipuan di platform sosial, mengundang pengguna untuk berpartisipasi dalam proyek palsu
• Menggunakan alat AI lainnya untuk menghasilkan suara pendiri proyek yang dipalsukan, melakukan penipuan melalui telepon

platform akses tanpa sensor

Ini adalah platform yang menyediakan akses ke berbagai model bahasa, termasuk beberapa model yang lebih sedikit diawasi. Ini memposisikan dirinya sebagai portal terbuka untuk mengeksplorasi kemampuan AI, tetapi juga dapat digunakan untuk menghasilkan konten jahat. Risikonya termasuk:

• Penyerang dapat memanfaatkan model dengan batasan yang lebih sedikit untuk menghasilkan template phishing dan ide serangan.
• Menurunkan ambang batas rekayasa pemberitahuan jahat
• Iterasi dan optimasi argumen serangan yang dipercepat

Strategi Penanganan

Kemunculan model bahasa tanpa batas menandai bahwa keamanan siber menghadapi paradigma serangan baru yang lebih kompleks, berskala lebih besar, dan memiliki kemampuan otomatisasi. Ini tidak hanya menurunkan ambang batas serangan, tetapi juga membawa ancaman baru yang lebih tersembunyi dan lebih menipu.

Untuk menghadapi tantangan ini, semua pihak dalam ekosistem keamanan perlu bekerja sama:

1. Meningkatkan investasi dalam teknologi deteksi, mengembangkan sistem yang dapat mengenali dan mencegah konten jahat yang dihasilkan oleh AI, eksploitasi kerentanan kontrak pintar, dan kode jahat.

2. Mendorong pembangunan kemampuan model untuk mencegah jailbreak, menjelajahi mekanisme watermark dan pelacakan, agar dapat melacak sumber konten jahat dalam skenario kunci.

3. Membangun dan memperkuat norma etika dan mekanisme pengawasan untuk membatasi pengembangan dan penyalahgunaan model yang berbahaya dari akar.

4. Meningkatkan pendidikan pengguna, meningkatkan kemampuan publik untuk mengenali konten yang dihasilkan oleh AI dan kesadaran akan keamanan.

5. Mendorong kolaborasi industri, membangun mekanisme berbagi informasi, dan cepat mendeteksi serta menghadapi ancaman AI baru.

Hanya dengan melakukan berbagai pendekatan, kita dapat menikmati manfaat teknologi AI sambil secara efektif mencegah potensi risikonya dan menjaga perkembangan sehat industri enkripsi.