toringuyen0509
Well-known member
Việc sử dụng tạo sinh (generative AI) để tạo ra các tin nhắn có thể khiến họ cảm thấy không đáng tin.
Các công ty, công ty khởi nghiệp và mọi cá nhân hàng ngày trên thế giới đang nắm bắt AI tạo sinh theo nhịp độ ngày càng mau lẹ. Nói trắng ra, nhiều nội dung bạn đọc sẽ có khả năng đã được một bộ máy tạo ra, nhưng đó có phải điều tốt không? Theo một nghiên cứu mới, nhiều người không thích điều này nếu họ tin rằng họ đang được cho đọc bằng văn bản tạo sinh (generated text) khi họ thấy rằng cách làm này giả tạo và không đáng tin.
Đại học Cornell đã tiến hành, bằng việc phân chia một nhóm đối tượng thử nghiệm thành 219 cặp. Mỗi cặp được bảo là hãy trò chuyện về một vấn đề chính sách thông qua tin nhắn văn bản và được cho một trong số ba điều kiện: (1) cả hai cặp trong một nhóm có thể dùng một nền tảng hồi đáp thông minh để sản sinh ra cuộc hội thoại của họ; (2) chỉ duy nhất một cá nhân có thể dùng nó; hoặc là (3) không người tham gia nào có thể dùng AI tạo sinh. Xét trung bình, các hồi đáp thông minh chiếm 14.3% trong số các tin nhắn được gởi (1 trên 7 tin).
Tin tốt cho AI là các nhà nghiên cứu thấy rằng việc dùng hồi đáp thông minh đã làm tăng tính hiệu quả giao tiếp, ngôn ngữ cảm xúc tích cực, và tăng những đánh giá tích cực bởi các bên tham gia giao tiếp.
Nhưng lời cảnh báo là bất cứ người nào tin rằng họ đang nói chuyện với ai đó mà các phản hồi của nọ được AI tạo ra đều nhận thức được là con người đó có tính hợp tác kém và cảm thấy ít có sự kết nối với họ.
Biểu đồ giá trị cuối năm 2022 của các công ty AI lớn nhất cho thấy cách biệt đáng kể của OpenAI so với những công ty từ thứ nhì trở đi, mà toàn bộ trong số đó là những cái tên chúng ta chưa từng nghe thấy bao giờ.
"Tôi ngạc nhiên khi thấy là người ta có xu hướng đánh giá bạn tiêu cực hơn bởi vì họ nghi ngờ rằng bạn đang sử dụng AI để giúp mình soạn tin nhắn, bất chấp việc bạn có thực sự làm thế hay không," nhà nghiên cứu sau tiến sĩ Jess Hohenstein, tác giả chính của nghiên cứu cho biết. "Điều này minh họa nỗi ngờ vực chung dai dẳng mà nhiều người dường như có đối với AI."
Một thử nghiệm thứ hai liên quan đến việc yêu cầu ngẫu nhiên 299 cặp tham gia được chỉ định thảo luận về một vấn đề chính sách theo một trong số bốn điều kiện: (1) không dùng các hồi đáp thông minh, (2) dùng hồi đáp thông minh mặc định; (3) dùng các hồi đáp thông minh trên một công cụ AI khác với sắc thái cảm xúc tích cực; và (4) dùng những công cụ AI có sắc thái cảm xúc tiêu cực.
Các cuộc hội thoại sử dụng Hồi đáp Thông minh (Smart Reply) của Google hay công cụ tạo ra văn bản tích cực thì lạc quan hơn và có sắc thái cảm xúc tích cực hơn những hội thoại không dùng AI hay đã được tạo ra bằng cách dùng các phản hồi tiêu cực. Các nhà nghiên cứu tin rằng điều này minh họa cho lợi ích của AI khi việc tạo ra văn bản đòi hỏi một luồng tích cực hơn, chẳng hạn các giao tiếp chuyên nghệp. Nhưng nó phải đánh đổi bằng sự cá nhân hóa.
"Trong khi AI có thể giúp bạn viết," Hohenstein nói, "nó thay đổi ngôn ngữ của bạn theo những cách mà bạn có thể không mong đợi, đặc biệt bằng việc khiến bạn trông tích cực hơn. Điều này gợi nhắc rằng bằng cách dùng AI tạo sinh văn bản, bạn đang hy sinh phần nào tiếng nói cá nhân của chính mình."
Nghiên cứu chỉ ra là AI có vị trí của mình, nhưng nó không nên được sử dụng đại trà. Không ai muốn có một cuộc hội thoại một-một (hay một phần của một người) với một cái máy khi họ tin là họ đang nói chuyện với một người, và có những tình huống chuyên biệt đòi hỏi sự tương tác của con người, chẳng hạn viết một email cho công chúng về một vụ xả súng gần đây - Đại học Vanderbilt ở Tennessee đã tạo ra một bức thư như vậy bằng cách dùng ChatGPT, khiến cho những người nhận được nó hết sức giận dữ.
Lược dịch từ bài của nhà báo Rob Thubron trên TechSpot.
Đáng chú ý là có một nhận xét của Malte Jung, đồng tác giả của nghiên cứu khi ông nói: “Những gì chúng tôi quan sát được trong nghiên cứu này là tác động của AI đối với động lực xã hội và một số hậu quả không mong muốn có thể xảy ra khi tích hợp AI trong các bối cảnh xã hội. Điều này cho thấy rằng bất cứ ai kiểm soát thuật toán đều có thể có ảnh hưởng đến sự tương tác, ngôn ngữ và nhận thức của mọi người về nhau.”
Chúng ta nên hiểu về nhận định này như thế nào? Trong thế giới cũ, nơi AI không đóng vai trò nào hoặc còn ở dạng sơ khai thì nhận thức của con người về nhau phụ thuộc vào bản thân của mỗi người, hay nói cách khác là có tính cá nhân hóa cao độ. Ngay cả khi bạn được giáo dục trên trường lớp thì kiến thức được giảng dạy dù là kiến thức chung phổ quát nhưng nó cũng phụ thuộc nhiều vào người giáo viên truyền đạt, nghĩa là được cá nhân hóa đáng kể. Như vậy khi chúng ta nhớ về hay vận dụng một kiến thức nào đó đã học thì bạn sẽ nhớ đến người đã dạy nó cho bạn lẫn sự hào hứng hay chán nản mà bạn từng trải qua khi tiếp nhận nó.
Nhưng trong tương lai khi AI trở thành một nguồn cung ứng thông tin thiết yếu thì nhận thức của con người về nhau và về thế giới xung quanh phụ thuộc vào ý định của bên kiểm soát công cụ AI và nó sẽ không còn tính cá nhân hóa nữa. Chẳng hạn nếu bên kiểm soát công cụ AI có quan điểm tiêu cực về một nhân vật hay sự việc nào đó mà bạn cần biết thì họ sẽ "dạy" cho AI quan điểm đó và bạn sẽ hiểu về nhân vật đó, sự việc đó theo đúng những gì họ muốn bạn biết. Tất nhiên mọi thứ xét cho cùng vẫn phụ thuộc vào con người; tất cả đều là các quan điểm, nhận định của con người cho dù đó là người bạn của chúng ta hay là những người xây dựng nên công cụ AI nhưng điều quan trọng ở đây là ý muốn của một số người hay của tất cả mọi người.