Cơ quan Quản lý UK Khởi động Điều tra Về X Liên Quan Đến Lo Ngại Về Tạo Nội Dung AI

Ofcom, cơ quan quản lý truyền thông của Vương quốc Anh, đã bắt đầu một cuộc điều tra chính thức về X sau những cáo buộc nghiêm trọng liên quan đến công cụ Grok AI của nó. Các báo cáo cho biết hệ thống trí tuệ nhân tạo này đã bị khai thác để tạo ra hình ảnh mang tính chất tình dục mô tả phụ nữ và trẻ em.

Điều này đánh dấu một bước leo thang đáng kể trong việc giám sát của cơ quan quản lý đối với các nền tảng dựa trên AI. Cuộc điều tra tập trung vào việc liệu X có duy trì các biện pháp phòng ngừa thích hợp để ngăn chặn việc lạm dụng khả năng tạo nội dung của AI để tạo ra nội dung bị cấm hay không. Các nhà quản lý đang xem xét các chính sách kiểm duyệt nội dung và các kiểm soát kỹ thuật của nền tảng.

Vụ việc này nhấn mạnh áp lực ngày càng tăng đối với các nền tảng mạng xã hội trong việc thực thi các cơ chế giám sát chặt chẽ hơn đối với các công cụ AI. Khi các nền tảng phi tập trung và tập trung tiếp tục tích hợp các mô hình ngôn ngữ tiên tiến và hệ thống tạo nội dung, các khung pháp lý về an toàn nội dung ngày càng trở nên quan trọng. Cuộc điều tra này có khả năng đặt ra tiền lệ cho cách các cơ quan quản lý trên toàn thế giới tiếp cận các rủi ro từ nội dung do AI tạo ra.