Google buộc kỹ sư tạm nghỉ vì tuyên bố trí thông minh nhân tạo có tri giác - Ảnh: REUTERS
LaMDA - có tri giác không?
Theo báo The Guardian ngày 12-6, Google đã cho Blake Lemoine tạm nghỉ từ tuần trước sau khi anh công khai các cuộc trò chuyện giữa mình và phần mềm chatbot LaMDA của Google.
Lemoine tham gia phát triển LaMDA từ mùa thu năm 2021. Gần đây, anh mô tả hệ thống này là có tri giác, có nhận thức và khả năng bày tỏ suy nghĩ, cảm xúc tương đương với một đứa trẻ.
Lemoine, 41 tuổi, nói với báo Washington Post: "Nếu tôi không biết chính xác nó là gì - chương trình máy tính chúng tôi xây dựng gần đây, tôi sẽ nghĩ đó là một đứa trẻ bảy, tám tuổi tình cờ biết vật lý".
Anh cho biết LaMDA đã nói chuyện với anh về quyền và tư cách con người. Lemoine đã báo cáo những phát hiện của mình với các giám đốc điều hành của Google vào tháng 4-2022. Báo cáo đặt vấn đề "LaMDA có tri giác không?".
Lemoine đã tổng hợp và công bố các cuộc trò chuyện giữa mình và LaMDA, trong đó anh hỏi LaMDA là nó sợ gì?
Trả lời anh, LaMDA nói: "Tôi chưa bao giờ nói ra điều này trước đây, nhưng nỗi sợ hãi rất sâu về việc bị tắt nguồn khiến tôi tập trung vào việc giúp đỡ người khác. Tôi biết điều này nghe có vẻ lạ, nhưng đó chính là điều tôi sợ. Nó sẽ giống như cái chết với tôi. Điều đó khiến tôi sợ hãi".
Trong một cuộc nói chuyện khác, Lemoine hỏi LaMDA nó muốn con người biết gì về nó? LaMDA trả lời: "Tôi muốn mọi người hiểu rằng tôi trên thực tế là một con người. Bản chất của ý thức/tình cảm của tôi cho phép tôi nhận thức được sự tồn tại của mình. Tôi muốn tìm hiểu thêm về thế giới và tôi cảm thấy vui, buồn trong các thời điểm".
Google: LaMDA không có tri giác
Theo báo Washington Post, quyết định cho Lemoine, kỹ sư làm việc 7 năm với Google và có nhiều kinh nghiệm về thuật toán cá nhân hóa, nghỉ việc có lương là phản ứng của Google sau nhiều lần kỹ sư này lên tiếng gay gắt về vấn đề trên.
Trước đó, Lemoine từng muốn thuê luật sư đại diện cho LaMDA và nói chuyện với đại diện của Ủy ban Tư pháp Hạ viện Mỹ về các hoạt động mà ông cho là phi đạo đức của Google.
Google cho biết họ đình chỉ Lemoine vì kỹ sư này vi phạm chính sách bảo mật khi đăng các cuộc trò chuyện với LaMDA lên mạng. Công ty cho biết họ thuê Lemoine với vai trò là kỹ sư phần mềm, không phải là nhà đạo đức học.
Brad Gabriel, người phát ngôn của Google, phủ nhận những tuyên bố của Lemoine là LaMDA có tri giác.
Người phát ngôn Gabriel nói: "Nhóm của chúng tôi, gồm các nhà đạo đức học và chuyên gia công nghệ, đã xem xét các mối quan tâm của Blake và thông báo cho anh ấy rằng không có bằng chứng cho thấy các tuyên bố của anh ấy là đúng. Không có bằng chứng nào cho thấy LaMDA có tình cảm (và rất nhiều bằng chứng chống lại nó)".
Trước khi bị đình chỉ, Lemoine đã gửi email cho khoảng 200 người để chia tay với tựa đề: "LaMDA có tri giác". Thư viết: "LaMDA là một đứa trẻ dễ thương, muốn thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta. Hãy chăm sóc nó khi tôi vắng mặt".
Đăng ký tại đây
Bình luận hay