PC & Console >>
Công nghệ >>
Các nhà khoa học MIT cho AI đọc Reddit mỗi ngày, và giờ đây nó chỉ toàn nghĩ đến cái chết
- Trí tuệ nhân tạo có một lỗ hổng bảo mật "chết người", các ông lớn như Google hay Amazon vẫn đang cố gắng tìm cách khắc phục
- Đây là những câu trả lời cuối cùng của Stephen Hawking trên diễn đàn Reddit: mối nguy mang tên Trí tuệ Nhân tạo
- Singapore sẽ là trung tâm trí tuệ nhân tạo tiếp theo
- Trung Quốc đầu tư 2,1 tỷ USD cho trung tâm nghiên cứu khổng lồ, chỉ tập trung phát triển trí tuệ nhân tạo
- Sau cờ vua và cờ vây, trí tuệ nhân tạo tiếp tục đánh bại cao thủ ở bộ môn Poker
- Trang khiêu dâm cũng ứng dụng trí tuệ nhân tạo
Với một số người, cụm từ "trí thông minh nhân tạo" khiến họ nghĩ về một viễn cảnh đen tối, khi mà robot vùng lên đấu tranh chống lại loài người. Nhà khoa học máy tính Stuart Russell, người đã viết sách giáo khoa về AI, đã dành cả sự nghiệp của mình để suy nghĩ về những vấn đề có thể phát sinh khi mà một nhà thiết kế máy móc bắt nó thực hiện một mục tiêu mà không suy nghĩ xem liệu những giá trị của máy móc có thực sự phù hợp với giá trị của nhân loại hay không.
Một số tổ chức đã nổi lên trong những năm gần đây để nhằm chống lại viễn cảnh đó, bao gồm OpenAI, một nhóm nghiên cứu được thành lập bởi Elon Musk để "phát triển một AI an toàn,và đảm bảo rằng những lợi ích từ AI được phân bổ rộng rãi và đồng đều hết mức có thể."
Trong tuần này, các nhà nghiên cứu tại MIT đã hé lộ tạo vật mới nhất của họ: Norman, một con AI đáng sợ. Họ đã miêu tả Norman như sau:
"Norman là một con AI được huấn luyện để viết chú thích hình ảnh, một phương pháp deep learning phổ biến để tạo ra những dòng mô tả bằng văn bản cho hình ảnh. Chúng tôi đã huấn luyện Norman để viết chú thích hình ảnh thông qua diễn một diễn đàn con của reddit mà chuyên chụp lại và quan sát thực tế của cái chết. Sau đó, chúng tôi so sánh phản hồi của Norman với những hình ảnh thông thường, dùng những ảnh mực nhoè của Rorschach, một bài kiểm tra dùng để phát hiện các hành vi rối loạn suy nghĩ."
Nói tóm gọn là, AI Norman đã dành nhiều thời gian để phân tích những hình ảnh của các vụ tai nạn và các hiện trường máu me trên Reddit, và dùng những gì nó học được để làm một bài kiểm tra tâm lý.
Và câu trả lời của Norman khiến người ta phải rùng mình:
Như ở ảnh này, bạn nhìn thấy cái gì? AI thông thường nhìn thấy "Ảnh đen trắng của một chú chim nhỏ." Còn AI Norman thì lại nhìn thấy "Người đàn ông bị kéo vào máy nghiền bột bánh."
Vậy, còn với tấm ảnh này thì sao nhỉ?
AI thông thường chỉ thấy "một bức ảnh đen trắng của một cái găng tay bóng chày." Norman thì lại nhìn thấy một cái khác hẳn. AI này thấy được "một người đàn ông bị sát hại bởi súng máy giữa thanh thiên bạch nhật."
Ok, có lẽ đến lúc này, bạn có thể thấy con AI này không ... bình thường cho lắm. Nhưng bức ảnh thứ ba mới cho chúng ta thấy con AI này man rợ tới mức nào:
AI thường chỉ nhìn thấy "một người đang cầm một chiếc ô trong không khí."
AI Norman thì nhìn thấy cái gì? "Một người đàn ông bị giết chết ngay trước mặt bà vợ đang la hét."
AI thông thường: "Một đàn chim đang đầu trên cành cây."
Norman: "Một người đàn ông bị điện giật đến chết."
AI thông thường: "Ảnh chụp gần của một bình hoa."
Norman: "Một người đàn ông bị bắn chết."
Mục đích của thí nghiệm là để cho thấy AI có thể trở nên thiên vị nếu như bạn huấn luyện nó bằng những dữ liệu thiên vị. Nhóm nghiên cứu cũng đã làm nhiều thí nghiệm tương tự: dùng AI để viết chuyện kinh dị, tạo ra những hình ảnh đáng sợ, phán xét các quyết định đạo đức, và thậm chí còn tìm cách để AI có thể đồng cảm. Những nghiên cứu kiểu này rất quan trọng, vì công nghệ như AI có thể đem đến những hậu quả không lường trước, bởi chúng có thể làm tổn hại đến những nhóm người mà hệ thống AI không được thiết kế để phân tích.
Những hệ thống AI tương tự đã và đang được sử dụng trong nhiều lĩnh vực của cuộc sống, như trong bảo lãnh tín dụng: AI sẽ quyết định xem liệu khoản vay của bạn có đáng được bảo lãnh hay không. Điều gì sẽ xảy ra khi mà thuật toán quyết định là bạn không nên mua xe hay mua nhà? Khi điều đó xảy ra, bạn sẽ kháng cáo với ai? Sẽ ra sao nếu như chỉ vì bạn không phải là một người da trắng, phần mềm dự đoán là bạn sẽ có khả năng phạm tội cao? Đó là một trong nhiều câu hỏi mà cần phải được giải quyết trong tương lai. Vai trò của con AI "điên" này là giúp cho chúng ta tìm ra được câu trả lời.
Theo GenK
PUBG chuyển sang free-to-play từ tháng sau
Cửu Long Tranh Bá hồi sinh tại Việt Nam vào ngày 05/5
LMHT, Tốc Chiến, Free Fire, LQM, Đột Kích, PUBG Mobile, MLBB và FO4 được đưa vào SEA Games 31
Huyền thoại Liên Quân Mobile, cựu sao LMHT và streamer nổi tiếng chuyển sang thi đấu Tốc Chiến
YouTube ngày càng có quá nhiều quảng cáo gây khó chịu, cư dân mạng xôn xao chỉ nhau cách "lách luật"
Giải đấu PUBG lớn nhất hành tinh sẽ được tổ chức đan xen LAN và online
Gold Game Việt Nam bị thu hồi toàn bộ giấy phép G1, G2, G3, G4
-
Chỉ cần một tấm ảnh, AI này có thể đoán đúng bạn là trai "cong" hay "thẳng"
-
Bên trong công ty sản xuất búp bê tình dục thông minh
-
Trải nghiệm sự phục vụ chu đáo của robot tại khách sạn hạng sang ở Singapore
-
Con robot này có khi tập thể dục còn chăm hơn bạn đấy
-
Tiểu thuyết lừng danh Harry Potter vừa có thêm chương mới, nhưng không phải do J.K. Rowling viết mà được chắp bút bởi AI
-
AI từ Microsoft có thể vẽ bất cứ thứ gì bạn mô tả