Cũng như một vài người, các hệ thống AI thường có mức tự tin vượt xa khả năng thực tế của chúng và không biết khi nào mình phạm phải sai lầm. Đôi khi, với AI, việc nhận ra mình đang mắc lỗi đối còn khó hơn việc tạo ra kết quả chính xác. Các nhà nghiên cứu từ ĐH Cambridge (Anh) và ĐH Oslo (Na Uy) nói rằng sự bất ổn đó là gót chân Achilles của AI hiện đại và có một nghịch lý toán học cho thấy những hạn chế đó của AI. 

Mô hình toán học tân tiến nhất về AI hiện nay là mạng thần kinh nhân tạo (neural network). Chúng gần như bắt chước các liên kết giữa những tế bào thần kinh trong não người. Các nhà nghiên cứu chỉ ra vấn đề là “các mạng thần kinh ổn định và chính xác có tồn tại, nhưng hiện không có một thuật toán nào có thể tạo ra được mạng lưới như vậy”. Nó chỉ được tạo ra trong những trường hợp đặc biệt.

Trong bài báo đăng trên tạp chí Proceedings of the National Academy of Sciences, họ đã đề xuất một lý thuyết phân loại để mô tả khi nào các mạng thần kinh có thể được huấn luyện để tạo ra một hệ thống AI đáng tin cậy trong một số điều kiện cụ thể nhất định. Nhiều hệ thống AI không ổn định, việc thiết lập độ tin cậy cho chúng là bài toán quan trọng, đặc biệt là khi AI ngày càng được ứng dụng trong các lĩnh vực có nguy cơ cao như chẩn đoán bệnh tật hoặc xe tự hành”, GS. Anders Hansen từ Khoa Toán ứng dụng và Vật lý lý thuyết ở ĐH Cambridge, đồng tác giả nghiên cứu nhận xét. 

Nghịch lý mà các nhà nghiên cứu xác định bắt nguồn từ hai nhà toán học lớn của thế kỉ 20 – Alan Turing và Kurt Gödel. Vào đầu thế kỷ 20, các nhà toán học đã cố gắng chứng minh toán học là ngôn ngữ nhất quán tối thượng của khoa học. Tuy nhiên, Turing và Gödel đã cho thấy một nghịch lý trọng tâm của toán học: không thể chứng minh một số mệnh đề toán học cụ thể là đúng hay sai, và một số vấn đề tính toán không thể giải quyết bằng thuật toán. Và với bất cứ hệ tiên đề nào đủ mạnh để mô tả các dạng số học mà chúng ta đã biết, nó cũng không thể chứng minh được tính nhất quán của mình. 

Nhóm nghiên cứu nói rằng vì nghịch lý này mà có trường hợp, tồn tại những mạng thần kinh tốt nhưng lại không thể xây dựng được một mạng thần kinh đủ tin cậy. “Cho dù dữ liệu của bạn chính xác đến đâu, bạn cũng không bao giờ có được thông tin hoàn hảo để xây dựng một mạng thần kinh như yêu cầu”, TS. Vegard Antun ở ĐH Oslo và là đồng tác giả cho biết.

“Hiện giờ, để xây các hệ thống AI đôi khi sẽ cần một chút phỏng đoán”, Hansen nhận xét. “Bạn thử một cái gì đó, và nếu không hoạt động, bạn thử thêm nhiều thứ hơn với hy vọng nó sẽ hoạt động. Đến một mức nào đó, bạn sẽ cảm thấy mệt mỏi vì không có được thứ mình muốn, và bạn thử một phương pháp tiếp cận khác. Điều quan trọng là phải hiểu được những hạn chế của các cách tiếp cận khác nhau. Chúng ta đang ở giai đoạn mà những thành công trên thực tiễn của AI đang vượt xa lý thuyết và sự hiểu biết của chúng ta. Do vậy, cần có một chương trình tìm hiểu về nền móng của tính toán AI nhằm thu hẹp khoảng cách này”.

Giai đoạn tiếp theo, nhóm nhà nghiên cứu sẽ kết hợp lý thuyết xấp xỉ, phân tích số và các nền tảng tính toán để xác định mạng thần kinh dạng nào có thể được tính toán bằng thuật toán và mạng thần kinh nào có thể được tạo ổn định và đáng tin cậy. Chỉ khi các nghịch lý về các giới hạn của toán học và máy tính do Gödel và Turing nhận diện dẫn đến những lý thuyết mang tính nền tảng – miêu tả được cả các giới hạn và khả năng có thể của toán học và máy tính – có lẽ một lý thuyết nền tảng tương tự của AI có thể phát triển vượt bậc. □

░s░o░u░r░c░e░s░
Trang Linh lược dịch
(https://www.cam.ac.uk/research/news/mathematical-paradox-demonstrates-the-limits-of-ai)

A A A A

[{"displaySettingInfo":"[{\"isFullLayout\":false,\"layoutWidthRatio\":\"\",\"showBlogMetadata\":true,\"showAds\":true,\"showQuickNoticeBar\":true,\"includeSuggestedAndRelatedBlogs\":true,\"enableLazyLoad\":true,\"quoteStyle\":\"1\",\"bigHeadingFontStyle\":\"1\",\"postPictureFrameStyle\":\"1\",\"isFaqLayout\":false,\"isIncludedCaption\":false,\"faqLayoutTheme\":\"1\",\"isSliderLayout\":false}]"},{"articleSourceInfo":"[{\"sourceName\":\"Tạp chí Tia Sáng\",\"sourceValue\":\"https://tiasang.com.vn/\"}]"},{"privacyInfo":"[{\"isOutsideVietnam\":false}]"},{"tocInfo":"[{\"isEnabledTOC\":true,\"isAutoNumbering\":false,\"isShowKeyHeadingWithIcon\":false}]"},{"termSettingInfo":"[{\"showTermsOnPage\":true,\"displaySequentialTermNumber\":true}]"}]

Khám phá thêm các chủ đề sau