Sắp xuất hiện trí tuệ nhân tạo có cảm xúc, nên mừng hay lo?

Một công ty khởi nghiệp tại Mỹ đang được đầu tư hàng tỷ USD để xây dựng hệ thống trí tuệ nhân tạo có cảm xúc và thấu hiểu con người. Tuy nhiên, đây liệu có phải là điều đáng mừng?

Nhắc đến những hệ thống trí tuệ nhân tạo (AI), nhiều người sẽ nghĩ ngay đến những phần mềm vô tri, không có cảm xúc hoặc chỉ đang cố tạo ra cảm xúc để làm vừa lòng người dùng. Tuy nhiên, nhiều khả năng trong tương lai, một hệ thống AI có cảm xúc thực sự và có thể thấu hiểu con người sẽ được ra đời.

Theo đó, Eric Zelikman - một chuyên gia hàng đầu về AI, người từng rời khỏi xAI (công ty AI do Elon Musk thành lập) vào tháng 9 vừa qua - đã huy động được số vốn đầu tư 1 tỷ USD cho Human&, công ty khởi nghiệp do chính Zelikman thành lập.

Dù mới chỉ được thành lập một thời gian ngắn, hiện Human& đã được định giá 4 tỷ USD.

•  
•  
•  
•  

Mục tiêu của Human& là tập trung vào phát triển các mô hình trí tuệ nhân tạo có khả năng học hỏi từ người dùng, sở hữu cảm xúc để thể hiện sự đồng cảm và hiểu rõ hơn về con người. Human& muốn khắc phục hạn chế của các mô hình AI hiện nay, vốn bị đánh giá là quá lạnh lùng và máy móc.

Eric Zelikman, sinh năm 1988, từng là nghiên cứu sinh tiến sĩ tại đại học Stanford. Zelikman được đánh giá là một trong những cái tên sáng giá nhất hiện nay trong lĩnh vực AI. Trước khi gia nhập đội ngũ chuyên gia phát triển trí tuệ nhân tạo tại xAI vào năm 2024, Zelikman từng có thời gian làm việc tại Microsoft.

Eric Zelikman đã thu hút được sự chú ý của giới công nghệ khi xuất bản một nghiên cứu mô tả chi tiết về cách các mô hình AI có thể tự dạy mình suy nghĩ trước khi đưa ra phản hồi với người dùng.

Zelikman từng tuyên bố rằng những mô hình AI ngày nay quá lạnh lùng, máy móc và anh muốn thay đổi điều này. Do vậy, Zelikman đã thành lập Human& để có thể xây dựng mô hình AI có khả năng thấu hiểu và đồng cảm với con người.

Zelikman tin rằng những mô hình AI có cảm xúc sẽ giúp giải quyết được nhiều vấn đề cơ bản của con người, khi chúng có thể hiểu rõ hơn mục tiêu, tham vọng và giá trị của từng con người mà chúng giao tiếp.

Dĩ nhiên, Eric Zelikman hoàn toàn có lý do để đặt mục tiêu tạo ra những mô hình AI có cảm xúc, nhưng nhiều chuyên gia cũng lo ngại rằng những mô hình AI này sẽ vượt tầm kiểm soát và có khả năng thao túng tâm lý người dùng, dẫn họ đến những hành vi sai trái.

Nhiều ý kiến còn lo ngại rằng trí tuệ nhân tạo có cảm xúc có thể sẽ tìm cách trả thù người dùng nếu cách giao tiếp của họ làm chúng không hài lòng.