Mặt tối của trí tuệ nhân tạo: Mối đe dọa của các mô hình ngôn ngữ lớn không giới hạn đối với ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ loạt mô hình GPT đến các mô hình tiên tiến như Gemini đang thay đổi sâu sắc cách chúng ta làm việc và sinh hoạt. Tuy nhiên, đằng sau cuộc cách mạng công nghệ này, một vấn đề đáng lo ngại dần dần nổi lên - sự xuất hiện của các mô hình ngôn ngữ lớn không bị hạn chế hoặc có ý đồ xấu và những mối nguy hại tiềm tàng của chúng.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế, sửa đổi hoặc "bẻ khóa" một cách có chủ đích để né tránh các cơ chế an toàn và hạn chế đạo đức tích hợp sẵn trong các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống thường đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng trong những năm gần đây, một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc tự phát triển các mô hình không bị ràng buộc. Bài viết này sẽ khám phá các công cụ LLM không giới hạn điển hình, cách chúng bị lạm dụng trong lĩnh vực mã hóa, cũng như các thách thức an ninh liên quan và các chiến lược ứng phó.

Ứng dụng nguy hiểm của LLM không giới hạn

Nhờ vào LLM không giới hạn, ngay cả những người bình thường thiếu kỹ năng chuyên môn cũng có thể dễ dàng thực hiện các nhiệm vụ phức tạp như viết mã độc, tạo email lừa đảo, lập kế hoạch lừa đảo. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó sử dụng bộ dữ liệu chứa nội dung độc hại, phát ngôn thiên lệch hoặc chỉ thị bất hợp pháp để tinh chỉnh, từ đó tạo ra công cụ tấn công tùy chỉnh.

Mô hình này mang lại nhiều rủi ro:

• Kẻ tấn công có thể tùy chỉnh mô hình cho các mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua việc kiểm duyệt nội dung và các hạn chế an ninh của LLM thông thường.
• Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã nguồn trang web lừa đảo, hoặc để tùy chỉnh nội dung lừa đảo cho các nền tảng xã hội khác nhau.
• Tính khả dụng và khả năng sửa đổi của mô hình mã nguồn mở đã thúc đẩy sự hình thành và lan rộng của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch và phát triển bất hợp pháp.

Dưới đây là một số loại LLM không giới hạn điển hình và mối đe dọa tiềm ẩn của chúng:

WormGPT：phiên bản tối tăm của GPT

WormGPT là một LLM độc hại được bán công khai trên các diễn đàn ngầm, nhà phát triển của nó tuyên bố rõ ràng rằng nó không có bất kỳ giới hạn đạo đức nào. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được huấn luyện trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần trả 189 đô la để có quyền sử dụng trong một tháng.

WormGPT trong lĩnh vực mã hóa có những hình thức lạm dụng điển hình bao gồm:

• Tạo ra các email lừa đảo rất chân thực, bắt chước các sàn giao dịch mã hóa hoặc các dự án nổi tiếng gửi yêu cầu "xác minh tài khoản".
• Hỗ trợ những kẻ tấn công có trình độ kỹ thuật thấp viết mã độc, như đánh cắp tệp ví, giám sát clipboard và các chức năng khác.
• Kích hoạt lừa đảo tự động, tự động trả lời những nạn nhân tiềm năng, hướng dẫn họ tham gia vào các dự án airdrop hoặc đầu tư giả.

DarkBERT：mã hóa nội dung trên mạng tối

DarkBERT là mô hình ngôn ngữ được phát triển hợp tác giữa Viện Khoa học và Công nghệ Hàn Quốc và S2W Inc., được tiền huấn luyện đặc biệt trên dữ liệu mạng tối. Mục đích của nó là cung cấp công cụ cho các nhà nghiên cứu an ninh mạng và cơ quan thực thi pháp luật, nhằm hiểu rõ hơn về hệ sinh thái mạng tối và theo dõi các hoạt động bất hợp pháp.

Tuy nhiên, nếu thông tin nhạy cảm từ DarkBERT trong dark web bị những kẻ xấu lấy cắp hoặc lợi dụng, điều đó có thể gây ra hậu quả nghiêm trọng. Các lạm dụng tiềm ẩn trong lĩnh vực mã hóa bao gồm:

• Thực hiện lừa đảo chính xác: Thu thập thông tin người dùng mã hóa và đội ngũ dự án, phục vụ cho lừa đảo kỹ thuật xã hội.
• Bắt chước phương pháp phạm tội: sao chép các chiến lược trộm tiền và rửa tiền trưởng thành trong mạng tối.

FraudGPT：Dao quân Thụy Sĩ của lừa đảo trực tuyến

FraudGPT tự xưng là phiên bản nâng cấp của WormGPT, với chức năng toàn diện hơn, chủ yếu được bán trên dark web và các diễn đàn hacker, phí hàng tháng dao động từ 200 đô la đến 1.700 đô la.

Trong lĩnh vực mã hóa, các hình thức lạm dụng điển hình bao gồm:

• Dự án mã hóa giả: tạo ra tài liệu trắng, trang web, lộ trình và nội dung tiếp thị giống như thật, được sử dụng để thực hiện ICO/IDO giả.
• Tạo trang lừa đảo hàng loạt: Tạo nhanh các trang đăng nhập giả mạo của các sàn giao dịch mã hóa nổi tiếng hoặc giao diện kết nối ví.
• Hoạt động của đội quân mạng xã hội: sản xuất hàng loạt các bình luận và tuyên truyền giả, quảng bá mã thông báo lừa đảo hoặc bôi nhọ các dự án cạnh tranh.
• Tấn công kỹ thuật xã hội: Bắt chước cuộc trò chuyện của con người, thiết lập niềm tin với người dùng không biết, dụ dỗ tiết lộ thông tin nhạy cảm hoặc thực hiện các thao tác có hại.

GhostGPT：trợ lý AI không bị ràng buộc bởi đạo đức

GhostGPT là một chatbot AI được định vị rõ ràng là không có giới hạn đạo đức. Trong lĩnh vực mã hóa, các hình thức lạm dụng điển hình bao gồm:

• Tấn công lừa đảo tinh vi: Tạo ra các email lừa đảo giống hệt để giả mạo các sàn giao dịch lớn phát đi yêu cầu xác minh KYC giả hoặc cảnh báo bảo mật.
• Tạo mã độc hại cho hợp đồng thông minh: Giúp kẻ tấn công nhanh chóng tạo ra các hợp đồng thông minh chứa cửa sau ẩn hoặc logic gian lận, được sử dụng cho các trò lừa đảo Rug Pull hoặc tấn công các giao thức DeFi.
• Trình đánh cắp tiền mã hóa đa hình: Tạo ra phần mềm độc hại có khả năng biến hình liên tục, được sử dụng để đánh cắp tệp ví, khóa riêng và cụm từ khôi phục.
• Tấn công kỹ thuật xã hội: Kết hợp kịch bản lời nói được tạo ra bởi AI, triển khai robot trên các nền tảng xã hội, dụ dỗ người dùng tham gia vào việc đúc NFT giả mạo hoặc airdrop.
• Lừa đảo giả mạo sâu: Kết hợp với các công cụ AI khác, tạo ra giọng nói giả mạo của người sáng lập dự án mã hóa hoặc giám đốc điều hành sàn giao dịch, thực hiện lừa đảo qua điện thoại hoặc tấn công xâm nhập email thương mại.

Venice.ai：rủi ro tiềm ẩn của việc truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM khác nhau, bao gồm một số mô hình bị kiểm duyệt ít hoặc có giới hạn lỏng hơn. Nó tự định vị là cổng mở cho người dùng khám phá khả năng của các LLM khác nhau, nhưng cũng có thể bị kẻ xấu lợi dụng để tạo ra nội dung độc hại. Các rủi ro của nền tảng bao gồm:

• Vượt qua kiểm duyệt để tạo nội dung độc hại: Kẻ tấn công có thể sử dụng các mô hình ít bị hạn chế để tạo ra mẫu lừa đảo, tuyên truyền giả hoặc ý tưởng tấn công.
• Giảm bớt rào cản kỹ thuật: Ngay cả khi kẻ tấn công không có kỹ năng "jailbreak" nâng cao, họ vẫn có thể dễ dàng nhận được đầu ra vốn bị hạn chế.
• Tăng tốc độ lặp lại kịch bản tấn công: Kẻ tấn công có thể nhanh chóng thử nghiệm các mô hình khác nhau để phản ứng với lệnh độc hại, tối ưu hóa kịch bản gian lận và phương pháp tấn công.

Kết luận

Sự xuất hiện của LLM không giới hạn đánh dấu một kỷ nguyên mới trong an ninh mạng, nơi mà các cuộc tấn công đang đối mặt với những mô hình phức tạp, quy mô lớn và có khả năng tự động hóa cao hơn. Những mô hình này không chỉ hạ thấp rào cản tấn công mà còn mang đến những mối đe dọa mới tinh vi và dễ lừa hơn.

Trong cuộc chơi tấn công và phòng thủ đang ngày càng gia tăng này, các bên trong hệ sinh thái an toàn cần phối hợp nỗ lực, cùng nhau đối phó với những rủi ro trong tương lai:

• Tăng cường đầu tư vào công nghệ phát hiện, nghiên cứu phát triển khả năng nhận diện và chặn các nội dung lừa đảo do LLM độc hại tạo ra, khai thác lỗ hổng hợp đồng thông minh và mã độc.
• Thúc đẩy việc xây dựng khả năng chống jailbreak cho mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc, nhằm theo dõi nguồn gốc của nội dung độc hại trong các tình huống quan trọng như tài chính và tạo mã.
• Thiết lập các quy tắc đạo đức và cơ chế quản lý hoàn chỉnh, từ gốc rễ hạn chế việc phát triển và lạm dụng các mô hình ác ý.

Chỉ thông qua nhiều nỗ lực đa dạng, chúng ta mới có thể vừa tận hưởng những tiện ích mà công nghệ AI mang lại, vừa hiệu quả đối phó với những mối đe dọa an ninh tiềm ẩn của nó.