Tân nghiên cứu: Tân kỹ thuật trợ lực trí tuệ nhân tạo giảm bớt “Bịa chuyện”

Tân Hoa Xã Bắc Kinh 6 nguyệt 25 ngày điện trí tuệ nhân tạo ( AI ) trung rộng khắp sử dụng đại ngôn ngữ mô hình thỉnh thoảng xuất hiện “Nghiêm trang mà bịa chuyện” là này khó có thể khắc phục vấn đề. Ngày gần đây, Anh quốc Oxford đại học nghiên cứu đoàn đội khai phá ra một loại tên là “Ngữ nghĩa entropy” tân phương pháp, có hi vọng trên diện rộng tăng lên AI trả lời đáng tin cậy tính.

5 nguyệt 30 ngày, ở Thụy Sĩ Geneva cử hành 2024 năm “Trí tuệ nhân tạo tạo phúc nhân loại toàn cầu phong sẽ” thượng, tham dự giả cùng một cái dùng cho xã hội quan tâm người máy hỗ động. Tân Hoa Xã phóng viên liền y nhiếp

Đại ngôn ngữ mô hình “Bịa chuyện” ở trong ngành được xưng là “Ảo giác”, Oxford đại học máy tính khoa học hệ nghiên cứu nhân viên đưa ra “Ngữ nghĩa entropy” phương pháp ý đồ giải quyết một vấn đề này. Ở nhiệt lực học trung, entropy miêu tả chính là hệ thống hỗn loạn hoặc là nói không ổn định trình độ. Cái này nghiên cứu trung, entropy cân nhắc đại ngôn ngữ mô hình trả lời không xác định tính, không xác định tính cao ý nghĩa đại ngôn ngữ mô hình trả lời khả năng tồn tại hư cấu.

Nên nghiên cứu thành quả đã phát biểu ở sắp tới xuất bản Anh quốc 《 tự nhiên 》 tạp chí thượng. Luận văn trung nói, nếu AI đối cùng cái vấn đề, cấp ra rất nhiều ngữ nghĩa tương tự đáp án, kia thuyết minh nó đối chính mình trả lời tương đối có nắm chắc; ngược lại, nếu đáp án hoa hoè loè loẹt, vậy ý nghĩa AI chính mình cũng “Trong lòng không đế”, rất có thể là ở “Bịa chuyện”.

Nghiên cứu nhân viên lợi dụng “Ngữ nghĩa entropy” phương pháp, làm đại ngôn ngữ mô hình đối cùng vấn đề sinh thành nhiều đáp án, sau đó đem ngữ nghĩa gần đáp án tụ loại, cuối cùng căn cứ tụ loại kết quả tính toán entropy giá trị. Entropy giá trị càng cao, tỏ vẻ đại ngôn ngữ mô hình trả lời càng không xác định.

Đáng chú ý chính là, này một phương pháp không chỉ có suy xét đại ngôn ngữ mô hình trả lời mặt chữ sai biệt, càng chú ý ngữ nghĩa mặt nhất trí tính. Cảnh này khiến “Ngữ nghĩa entropy” có thể càng chuẩn xác mà phân biệt AI “Bịa chuyện”, mà sẽ không bị biểu đạt phương thức đa dạng tính sở mê hoặc.

Nghiên cứu kết quả cho thấy, “Ngữ nghĩa entropy” phương pháp ở nhiều số liệu tập cùng nhiệm vụ trung đều biểu hiện xuất sắc, có thể hữu hiệu kiểm tra đo lường đại ngôn ngữ mô hình sai lầm trả lời, cũng thông qua cự tuyệt trả lời không xác định vấn đề nhắc tới cao chỉnh thể chuẩn xác suất. Càng quan trọng là, này một phương pháp không cần sửa chữa AI mô hình bản thân, có thể trực tiếp ứng dụng với hiện có đại ngôn ngữ mô hình.

Nghiên cứu nhân viên nói, “Ngữ nghĩa entropy” kỹ thuật có hi vọng đang hỏi đáp hệ thống, văn bản sinh thành, phiên dịch bằng máy chờ nhiều lĩnh vực phát huy quan trọng tác dụng, trợ giúp AI sinh thành càng đáng tin cậy, càng có giá trị nội dung. Này không chỉ có đem tăng lên AI trong ứng dụng thực tế biểu hiện, cũng đem tăng cường người dùng đối AI hệ thống tín nhiệm.