Từ Minh Quân
Well-known member
Bức ảnh giả, được cho là do AI tạo ra, với cột khói lớn bốc lên bên trái Lầu Năm Góc đã lan truyền trên mạng xã hội Facebook và Twitter.
Theo Bloomberg, ảnh xuất hiện đầu tiên trên Facebook ngày 22/5 kèm theo chú thích: "Vụ nổ lớn gần khu phức hợp Lầu Năm Góc ở Washington DC". Sau đó, ảnh nhanh chóng lan truyền trên một số tài khoản Twitter có hàng triệu người theo dõi, gồm cả tài khoản có dấu xác minh màu xanh, và được chia sẻ lại hàng nghìn lần. Thông tin thậm chí xuất hiện trên một số trang tin tức lớn.
CNN và NBC News ghi nhận sau khi hình ảnh gây xôn xao trên mạng, thị trường chứng khoán Mỹ đã bị tác động trong thời gian ngắn. Chỉ số Dow Jones giảm 80 điểm trong bốn phút nhưng sau đó phục hồi. Chỉ số S&P 500 giảm 0,3% xuống mức thấp nhất trong phiên rồi quay lại như cũ, khi hình ảnh được xác minh là giả.
Bức ảnh "Lầu Năm Góc bị cháy" được xác định do AI tạo ra.
Một nhân viên Lầu Năm Góc cho biết họ nhận được hàng loạt cuộc gọi từ người dân. Tài khoản Twitter của Sở Cảnh sát Arlington khẳng định "không có vụ nổ hoặc sự cố nào xảy ra ở Lầu Năm Góc, không có mối nguy hiểm nào hiện có".
Nick Waters, chuyên gia của Bellingcat - trang chuyên điều tra vấn đề tình báo, cho biết ông đã sốc khi nghe tin về vụ cháy và việc đầu tiên là xem xét bức ảnh. "Hãy nhìn phía trước tòa nhà, hàng rào và một số chi tiết. Cũng không có ảnh và video tương tự nào khác được đăng với tư cách là nhân chứng trực tiếp. Mọi thứ rõ ràng là giả. Nó có thể là sản phẩm của AI", Waters viết trên Twitter.
"Hình ảnh có dấu hiệu điển hình của việc được tạo bởi AI: lỗi cấu trúc trên tòa nhà và hàng rào, chúng khó nhìn ra nếu không xem xét kỹ", giáo sư Hany Farid của Đại học California nói.
Sau khi phát hiện là giả, hầu hết tài khoản Twitter đã xóa ảnh. Facebook cũng khóa tài khoản phát tán hình ảnh giả, nhưng không đưa ra bình luận.
Mặt trái của AI tạo ảnh giả
Trước đó, hồi tháng 3, ảnh cựu tổng thống Mỹ Donald Trump bị bắt, hay Giáo hoàng Francis mặc áo khoác trắng thời trang cũng lan truyền trên mạng xã hội khi nhiều người xem tin là thật, theo Washington Post. Tuy nhiên, chúng sau đó bị phát hiện là do Midjourney của OpenAI tạo ra.
Midjourney không phải là công cụ AI duy nhất cho phép tạo ảnh chỉ bằng một đoạn mô tả văn bản ngắn. Dall-E, cũng của OpenAI, hay Stable Diffusion cũng có tính năng này.
Theo giới chuyên gia, việc dễ dàng tạo ảnh giả bằng AI như hiện nay có thể gây ra tác hại xã hội nghiêm trọng, góp phần phát tán thông tin sai lệch. "Khi trình tạo ảnh AI trở nên phổ biến và tinh vi, chúng có thể tạo ảnh như thật nhưng sai sự thật. Không khó để hình dung một ngày chúng có thể thao túng, đưa thông tin không chính xác về một sự kiện", trang công nghệ TechCrunch bình luận.
Giới chuyên gia đánh giá hình ảnh AI như ảnh Giáo hoàng khoác áo thời trang hay đám cháy bên ngoài Lầu Năm Góc sẽ còn xuất hiện thường xuyên hơn thời gian tới. Tuy nhiên, việc ai sẽ chịu trách nhiệm nếu nội dung AI gây ra hậu quả nghiêm trọng vẫn còn gây tranh cãi. Do đó, chính phủ các nước được cho là nên sớm đưa ra quy định nhằm kiểm soát AI, gồm cả AI tạo ảnh từ mô tả văn bản.
Theo Bloomberg, ảnh xuất hiện đầu tiên trên Facebook ngày 22/5 kèm theo chú thích: "Vụ nổ lớn gần khu phức hợp Lầu Năm Góc ở Washington DC". Sau đó, ảnh nhanh chóng lan truyền trên một số tài khoản Twitter có hàng triệu người theo dõi, gồm cả tài khoản có dấu xác minh màu xanh, và được chia sẻ lại hàng nghìn lần. Thông tin thậm chí xuất hiện trên một số trang tin tức lớn.
CNN và NBC News ghi nhận sau khi hình ảnh gây xôn xao trên mạng, thị trường chứng khoán Mỹ đã bị tác động trong thời gian ngắn. Chỉ số Dow Jones giảm 80 điểm trong bốn phút nhưng sau đó phục hồi. Chỉ số S&P 500 giảm 0,3% xuống mức thấp nhất trong phiên rồi quay lại như cũ, khi hình ảnh được xác minh là giả.
Bức ảnh "Lầu Năm Góc bị cháy" được xác định do AI tạo ra.
Một nhân viên Lầu Năm Góc cho biết họ nhận được hàng loạt cuộc gọi từ người dân. Tài khoản Twitter của Sở Cảnh sát Arlington khẳng định "không có vụ nổ hoặc sự cố nào xảy ra ở Lầu Năm Góc, không có mối nguy hiểm nào hiện có".
Nick Waters, chuyên gia của Bellingcat - trang chuyên điều tra vấn đề tình báo, cho biết ông đã sốc khi nghe tin về vụ cháy và việc đầu tiên là xem xét bức ảnh. "Hãy nhìn phía trước tòa nhà, hàng rào và một số chi tiết. Cũng không có ảnh và video tương tự nào khác được đăng với tư cách là nhân chứng trực tiếp. Mọi thứ rõ ràng là giả. Nó có thể là sản phẩm của AI", Waters viết trên Twitter.
"Hình ảnh có dấu hiệu điển hình của việc được tạo bởi AI: lỗi cấu trúc trên tòa nhà và hàng rào, chúng khó nhìn ra nếu không xem xét kỹ", giáo sư Hany Farid của Đại học California nói.
Sau khi phát hiện là giả, hầu hết tài khoản Twitter đã xóa ảnh. Facebook cũng khóa tài khoản phát tán hình ảnh giả, nhưng không đưa ra bình luận.
Mặt trái của AI tạo ảnh giả
Trước đó, hồi tháng 3, ảnh cựu tổng thống Mỹ Donald Trump bị bắt, hay Giáo hoàng Francis mặc áo khoác trắng thời trang cũng lan truyền trên mạng xã hội khi nhiều người xem tin là thật, theo Washington Post. Tuy nhiên, chúng sau đó bị phát hiện là do Midjourney của OpenAI tạo ra.
Midjourney không phải là công cụ AI duy nhất cho phép tạo ảnh chỉ bằng một đoạn mô tả văn bản ngắn. Dall-E, cũng của OpenAI, hay Stable Diffusion cũng có tính năng này.
Theo giới chuyên gia, việc dễ dàng tạo ảnh giả bằng AI như hiện nay có thể gây ra tác hại xã hội nghiêm trọng, góp phần phát tán thông tin sai lệch. "Khi trình tạo ảnh AI trở nên phổ biến và tinh vi, chúng có thể tạo ảnh như thật nhưng sai sự thật. Không khó để hình dung một ngày chúng có thể thao túng, đưa thông tin không chính xác về một sự kiện", trang công nghệ TechCrunch bình luận.
Giới chuyên gia đánh giá hình ảnh AI như ảnh Giáo hoàng khoác áo thời trang hay đám cháy bên ngoài Lầu Năm Góc sẽ còn xuất hiện thường xuyên hơn thời gian tới. Tuy nhiên, việc ai sẽ chịu trách nhiệm nếu nội dung AI gây ra hậu quả nghiêm trọng vẫn còn gây tranh cãi. Do đó, chính phủ các nước được cho là nên sớm đưa ra quy định nhằm kiểm soát AI, gồm cả AI tạo ảnh từ mô tả văn bản.