Từ Minh Quân
Well-known member
Các nhân viên của Goolge được cho là nhiều lần chỉ trích chatbot Bard trong tin nhắn nội bộ, thậm chí cầu xin công ty không tung ra nó.
Báo cáo từ Bloomberg trích dẫn cuộc thảo luận với 18 nhân viên đã hoặc đang làm việc tại Google cũng như ảnh chụp màn hình một số đoạn tin nhắn trao đổi nội bộ. Trong đó, một người nhấn mạnh Bard thường đưa ra lời khuyên nguy hiểm cho người dùng như nào, từ các chủ đề đơn giản như lặn biển đến phức tạp như cách hạ cánh máy bay. "Bard thậm chí còn tệ hơn cả vô dụng", một người khác nói.
Công ty thậm chí đã "bỏ qua đánh giá rủi ro" do nhóm an toàn nội bộ đệ trình nói hệ thống chưa sẵn sàng để sử dụng rộng rãi. Google bắt đầu mở quyền truy cập sớm vào hệ thống chatbot thử nghiệm vào tháng 3.
Nguồn tin cũng minh họa cách Google đã gạt bỏ một số lo ngại về đạo đức trong nỗ lực theo kịp các đối thủ như Microsoft và OpenAI. Công ty thường xuyên quảng cáo về sự an toàn và đạo đức trong AI nhưng từ lâu đã bị chỉ trích vì ưu tiên kinh doanh.
Giao diện Google Bard. Ảnh: Tradealgo
Cuối năm 2020 và đầu năm 2021, công ty sa thải liên tiếp hai nhà nghiên cứu Timnit Gebru và Margaret Mitchell sau khi họ xuất bản nghiên cứu các lỗ hổng trong hệ thống ngôn ngữ AI làm nền tảng cho những chatbot như Bard. Với việc các hệ thống này đe dọa mô hình kinh doanh tìm kiếm, Goolge còn bị cho là bỏ qua các vấn đề về an toàn để tập trung vào kinh doanh.
"Gã khổng lồ tìm kiếm vốn đáng tin cậy trên Internet đang cung cấp thông tin chất lượng thấp hơn trong cuộc chạy đua để theo kịp đối thủ. Họ cũng ít ưu tiên hơn cho các cam kết về đạo đức của mình", báo cảo của Bloomberg có đoạn.
Theo The Verge, những người có quan điểm đối lập tại Google cũng như thế giới AI nói chung cho rằng thử nghiệm công khai là cần thiết để phát triển và tác hại do chatbot gây ra là rất nhỏ. Những AI như Bard tạo ra văn bản độc hại hay cung cấp thông tin sai lệch nhưng cũng chỉ tương tự như vô số nguồn khác trên web hiện nay. Các đối thủ của Google như Microsoft hay OpenAI cũng gặp vấn đề tương tự. Tuy nhiên, điểm khác biệt là họ không dẫn đầu trong lĩnh vực tìm kiếm và cũng có ít thứ để mất hơn.
Trao đổi với Bloomberg, Brian Gabriel, người phát ngôn của Google cho biết đạo đức AI vẫn là ưu tiên hàng đầu của công ty. "Chúng tôi đang tiếp tục đầu tư vào các nhóm làm việc để áp dụng nguyên tắc AI vào công nghệ của chúng tôi", ông nói.
Trước đó, theo Business Insider, Google không có thời gian và nhân lực đánh giá và cải thiện chất lượng phản hồi do Bard đưa ra. Thay vào đó, công ty giao nhiệm vụ cho các đối tác thực hiện điều này. Theo bốn nguồn tin từ nhà thầu của Google cũng như tài liệu nội bộ, việc thử nghiệm Bard diễn ra vội vã do họ không có đủ thời gian để xác minh câu trả lời đúng từ chatbot AI.
Google ra mắt Bard ngày 6/2. Tuy nhiên, ngay khi vừa trình làng, chatbot được xem là đối thủ của ChatGPT đã trả lời sai câu hỏi về kiến thức. Điều này khiến Google mất 100 tỷ USD giá trị vốn hóa thị trường sau đó. Trước khi giới thiệu Bard, Google cũng được cho là đã yêu cầu nhân viên toàn thời gian dành từ hai đến bốn giờ để trò chuyện với bot mới. Họ sẽ đặt câu hỏi, gắn cờ các câu trả lời không đáp ứng các tiêu chuẩn về độ chính xác và các yếu tố khác.
Báo cáo từ Bloomberg trích dẫn cuộc thảo luận với 18 nhân viên đã hoặc đang làm việc tại Google cũng như ảnh chụp màn hình một số đoạn tin nhắn trao đổi nội bộ. Trong đó, một người nhấn mạnh Bard thường đưa ra lời khuyên nguy hiểm cho người dùng như nào, từ các chủ đề đơn giản như lặn biển đến phức tạp như cách hạ cánh máy bay. "Bard thậm chí còn tệ hơn cả vô dụng", một người khác nói.
Công ty thậm chí đã "bỏ qua đánh giá rủi ro" do nhóm an toàn nội bộ đệ trình nói hệ thống chưa sẵn sàng để sử dụng rộng rãi. Google bắt đầu mở quyền truy cập sớm vào hệ thống chatbot thử nghiệm vào tháng 3.
Nguồn tin cũng minh họa cách Google đã gạt bỏ một số lo ngại về đạo đức trong nỗ lực theo kịp các đối thủ như Microsoft và OpenAI. Công ty thường xuyên quảng cáo về sự an toàn và đạo đức trong AI nhưng từ lâu đã bị chỉ trích vì ưu tiên kinh doanh.
Giao diện Google Bard. Ảnh: Tradealgo
Cuối năm 2020 và đầu năm 2021, công ty sa thải liên tiếp hai nhà nghiên cứu Timnit Gebru và Margaret Mitchell sau khi họ xuất bản nghiên cứu các lỗ hổng trong hệ thống ngôn ngữ AI làm nền tảng cho những chatbot như Bard. Với việc các hệ thống này đe dọa mô hình kinh doanh tìm kiếm, Goolge còn bị cho là bỏ qua các vấn đề về an toàn để tập trung vào kinh doanh.
"Gã khổng lồ tìm kiếm vốn đáng tin cậy trên Internet đang cung cấp thông tin chất lượng thấp hơn trong cuộc chạy đua để theo kịp đối thủ. Họ cũng ít ưu tiên hơn cho các cam kết về đạo đức của mình", báo cảo của Bloomberg có đoạn.
Theo The Verge, những người có quan điểm đối lập tại Google cũng như thế giới AI nói chung cho rằng thử nghiệm công khai là cần thiết để phát triển và tác hại do chatbot gây ra là rất nhỏ. Những AI như Bard tạo ra văn bản độc hại hay cung cấp thông tin sai lệch nhưng cũng chỉ tương tự như vô số nguồn khác trên web hiện nay. Các đối thủ của Google như Microsoft hay OpenAI cũng gặp vấn đề tương tự. Tuy nhiên, điểm khác biệt là họ không dẫn đầu trong lĩnh vực tìm kiếm và cũng có ít thứ để mất hơn.
Trao đổi với Bloomberg, Brian Gabriel, người phát ngôn của Google cho biết đạo đức AI vẫn là ưu tiên hàng đầu của công ty. "Chúng tôi đang tiếp tục đầu tư vào các nhóm làm việc để áp dụng nguyên tắc AI vào công nghệ của chúng tôi", ông nói.
Trước đó, theo Business Insider, Google không có thời gian và nhân lực đánh giá và cải thiện chất lượng phản hồi do Bard đưa ra. Thay vào đó, công ty giao nhiệm vụ cho các đối tác thực hiện điều này. Theo bốn nguồn tin từ nhà thầu của Google cũng như tài liệu nội bộ, việc thử nghiệm Bard diễn ra vội vã do họ không có đủ thời gian để xác minh câu trả lời đúng từ chatbot AI.
Google ra mắt Bard ngày 6/2. Tuy nhiên, ngay khi vừa trình làng, chatbot được xem là đối thủ của ChatGPT đã trả lời sai câu hỏi về kiến thức. Điều này khiến Google mất 100 tỷ USD giá trị vốn hóa thị trường sau đó. Trước khi giới thiệu Bard, Google cũng được cho là đã yêu cầu nhân viên toàn thời gian dành từ hai đến bốn giờ để trò chuyện với bot mới. Họ sẽ đặt câu hỏi, gắn cờ các câu trả lời không đáp ứng các tiêu chuẩn về độ chính xác và các yếu tố khác.