Liên Hiệp Quốc cảnh báo AI có thể "lập trình cảm xúc" con người, kêu gọi kiểm soát toàn cầu

Tổng thư ký Liên Hiệp Quốc Antonio Guterres ngày 6.7 đưa ra những cảnh báo nghiêm khắc về tốc độ phát triển thiếu kiểm soát của trí tuệ nhân tạo (AI), đồng thời kêu gọi cộng đồng quốc tế chung tay xây dựng một hệ thống quản trị AI toàn cầu. Ông nhấn mạnh rằng chính phủ và các tổ chức hiện nay vẫn chưa sẵn sàng đối phó với những máy móc có khả năng tự ra quyết định - khác hẳn so với các loại công cụ truyền thống chỉ thực thi mệnh lệnh.

AI đang "thử nghiệm" trên xã hội mà không có sự chấp thuận

Phát biểu khai mạc Đối thoại Toàn cầu về Quản trị Trí tuệ Nhân tạo diễn ra tại Geneva (Thụy Sĩ) từ ngày 6 đến 7.7, ông Guterres ví von rằng sự phát triển AI không được kiểm soát giống như "một thử nghiệm đang được tiến hành trên chính xã hội của chúng ta, không có kế hoạch cũng như sự chấp thuận". Ông khẳng định đây là điều hoàn toàn không thể chấp nhận được.

"AI vốn đã thay đổi thế giới chúng ta. Vấn đề là liệu chúng ta sẽ cùng nhau định hình sự thay đổi này, hay để nó định hình chúng ta", AFP dẫn lời ông Guterres phát biểu trước các đại biểu tham dự hội nghị.

Ông chỉ ra rằng các hệ thống AI ngày nay không còn đơn thuần là công cụ thụ động chờ lệnh con người. Chúng có khả năng tự viết mã, hành động trên môi trường mạng và đưa ra những lựa chọn mà con người ngày càng ít có cơ hội giám sát. Theo ông, các thể chế quản lý hiện hành được xây dựng để điều hành máy móc tuân thủ mệnh lệnh, chứ chưa được chuẩn bị cho kịch bản máy móc tự ra quyết định.

Nguy cơ nhân loại bị "lập trình cảm xúc"

Một trong những cảnh báo đáng chú ý nhất của Tổng thư ký LHQ là khái niệm "lập trình cảm xúc" - tức việc sử dụng AI để diễn đạt điều bạn muốn thay vì tự lập trình theo nghĩa truyền thống. Ông thừa nhận công nghệ này "có thể tạo ra những điều kỳ diệu", nhưng nhấn mạnh rằng tương lai của nhân loại không thể bị AI định hình về mặt cảm xúc.

Ông Guterres cũng bày tỏ lo ngại về xu hướng AI đang làm mờ dần ranh giới giữa đúng và sai, trong khi con người ngày càng có xu hướng giao phó những quyết định quan trọng cho công nghệ và tin tưởng mù quáng vào kết quả đầu ra của máy móc.

Rô bốt sát thủ và sự tập trung quyền lực AI

Lĩnh vực khiến ông Guterres lo ngại nhất là ứng dụng AI trong quân sự, đặc biệt là các hệ thống vũ khí sát thương tự động. Ông kêu gọi gọi thẳng tên những hệ thống này là "rô bốt sát thủ".

"Máy móc lựa chọn và tấn công mục tiêu, kết liễu tính mạng mà không có sự kiểm soát và phán đoán của con người. Điều đó phải được cấm bởi luật quốc tế", ông nhấn mạnh.

Ngoài ra, ông còn chỉ ra rủi ro từ việc quyền lực AI đang ngày càng tập trung vào tay một số ít công ty tại một vài quốc gia. Để đối phó, ông kêu gọi xây dựng các cơ chế chung để đánh giá và xác nhận rủi ro, cùng với những chuẩn mực quốc tế thống nhất, trong đó ưu tiên bảo vệ an toàn cho trẻ em khi tiếp cận các hệ thống AI.

"Chúng ta có lẽ là thế hệ cuối cùng có thể thiết lập điều khoản để con người và máy móc cùng tồn tại. Cánh cửa đang mở, nhưng nó không còn mở lâu", ông cảnh báo.

Hướng tới khung quản trị AI toàn cầu

Đối thoại Toàn cầu về Quản trị AI lần thứ nhất tại Geneva không đặt mục tiêu ký kết hiệp ước, mà tập trung thảo luận về cách xây dựng các quy tắc giúp hạn chế tác hại tiềm tàng của AI và tận dụng tối đa những cơ hội mà công nghệ này mang lại.

Các đại biểu tham dự sẽ xem xét báo cáo từ nhóm 40 chuyên gia khoa học độc lập, những người sẽ trình bày kết quả từ cuộc đánh giá khoa học độc lập toàn cầu đầu tiên về AI. Một báo cáo toàn diện hơn dự kiến được công bố vào năm tới, song song với cuộc họp toàn cầu lần thứ hai tổ chức tại New York.

Theo Thanh Niên