AI năng cấp ngã môn đích sinh hoạt đái lai tiện lợi, đãn dã hội tạo thành ý tưởng bất đáo đích “Kinh hỉ”. Thí tưởng 2046 niên đích mỗ nhất thiên, nhĩ khứ cơ tràng cản phi cơ thời gian lai bất cập liễu. Vu thị, nhĩ đối tự động giá sử đích võng ước xa thuyết: “Thỉnh tống ngã đáo cựu kim sơn cơ tràng, việt khoái việt hảo!” Vu thị, tự động giá sử khí xa dĩ dĩ 200 anh lí / tiểu thời đích tốc độ trùng hướng cơ tràng, sấm liễu vô sổ hồng đăng, hoàn chàng đảo liễu kỉ lượng tự hành xa.
Nhi nhĩ, nhất đáo cơ tràng, tựu bị khai trứ trực thăng cơ cản lai đích cảnh sát khảo tẩu liễu.
Giá cá lệ tử thuyết minh, đương nhân công trí năng phiến diện địa lý giải nhân loại đích nhu cầu thời, khả năng chế tạo xuất tân đích ma phiền.
Nhi giá chỉ thị chúng đa AI đích tiềm tại “Tác ác” khả năng đích nhất chủng. Tại khuê cốc, đỉnh tiêm đại học đích học giả môn nhất trí nhận vi, AI tại cấp vị lai đái lai vô hạn khả năng đích đồng thời, dã khả năng đái lai các chủng an toàn ẩn hoạn.
Na ma, ngã môn ứng cai như hà khứ xác bảo AI bất tác ác, “Dĩ nhân vi bổn” địa phát triển ni? Lai tự gia châu đại học bá khắc lợi phân giáo đích tư đồ nhĩ đặc · la tố (Stuart Russell) giáo thụ tại nhất thứ tối tân đích diễn giảng trung cấp xuất liễu tha đích đáp án.
Tư đồ nhĩ đặc · la tố ( Stuart Russell ) thị gia châu đại học bá khắc lợi phân giáo đích điện tử công trình hòa kế toán cơ khoa học giáo thụ, tha đích thư 《 nhân công trí năng: Hiện đại phương pháp 》 ( dữ cốc ca nghiên phát tổng giam bỉ đắc · nặc duy cách hợp trứ ) thị nhân công trí năng lĩnh vực đích tiêu chuẩn thư; tha dĩ bị phiên dịch thành 13 chủng ngữ ngôn, tịnh tại 118 cá quốc gia đích 1,300 đa sở đại học trung sử dụng.
Nhân công trí năng phát triển đích mục tiêu dĩ hữu thiên soa
Cận niên lai, nghiên cứu giả môn phổ biến nhận vi, AI thị lý tính đích, tha năng cú thông quá cảm tri chu vi đích hoàn cảnh, lai tối đại hóa thật hiện tha đích mục tiêu. Nghiên cứu giả vãng vãng tương phát triển AI đích mục tiêu thiết định vi nhân loại cấp biệt (human-level), hoặc thị siêu nhân loại (superhuman) cấp biệt. Đãn Russell giáo thụ nhận vi, như quả ngã môn chân đích án chiếu giá cá mục tiêu khứ phát triển AI, khả năng hội dẫn phát ngận đa tiềm tại đích vấn đề.
Tựu tượng văn chương khai thiên đích lệ tử nhất dạng, Russell giáo thụ nhận vi, như quả ngã môn án chiếu thuần lý tính mục tiêu cấu kiến nhân công trí năng, tương hội ma phiền trọng trọng. Tha tại diễn giảng trung cử liễu lánh nhất cá lệ tử: “Đương nhĩ yếu cầu AI bang nhĩ thủ già phê, kỳ thật nhĩ bất thị hi vọng tha yếu bất tích nhất thiết đại giới, bỉ như thanh không ngã đích ngân hành trướng hộ, hoặc giả thị tại sa mạc thượng bạt thiệp 300 anh lí lai bang nhĩ hoàn thành thủ già phê đích mục tiêu. Đãn thị, AI khả năng tịnh bất giá ma nhận vi.”
Giá thị thập ma nguyên nhân ni? Quá khứ, nhân môn giả thiết cơ khí nhân đối mục tiêu cụ hữu hoàn bị đích tri thức. Nhi thật tế thượng, AI đối mục tiêu vãng vãng cận cụ hữu bất hoàn thiện đích tri thức hoặc chỉ ủng hữu bộ phân tri thức. Nhân thử, do vu đối chỉnh cá nhân công trí năng định nghĩa đích mục tiêu thiên soa, nhân môn vãng vãng bất tri đạo ngã môn đối AI đích chỉ lệnh tương hội đái lai thập ma dạng đích hậu quả. Giá chủng vị tri, sử ngận đa nhân đối nhân công trí năng sản sinh liễu các chủng phụ diện hoặc bi quan đích dự trắc.
Nhân thử, Russell giáo thụ nhận vi, đương tiền AI phát triển tối quan kiện đích vấn đề, thị nhu yếu điều chỉnh AI nghiên cứu đích trọng điểm phương hướng, dĩ tiện tương lai ngã môn bất hội diện lâm giá chủng phong hiểm.
“Tân tam nguyên tắc”, sang kiến dĩ nhân vi bổn đích AI
“Tại truyện thống đích mô hình lí, nhân loại bị giả định thị túc cú thông minh đích, tha môn vãng vãng năng cú thông quá hành vi lai thật hiện tự kỷ đích mục tiêu, nhi cơ khí dã năng cú đạt đáo túc cú thông minh đích trình độ, sử tha môn tự kỷ năng thật hiện tha môn đích mục tiêu. Đãn thị, nhân loại tịnh bất tưởng sang tạo xuất bỉ ngã môn canh thông minh đích vật chủng. Ngã môn tưởng sang tạo đích AI ứng cai thị đối nhân loại hữu ích đích, tha môn đích hành vi năng cú đạt thành ngã môn nhân loại nhi bất thị cơ khí tự kỷ đích mục tiêu.”
Châm đối giá nhất điểm, Russell giáo thụ đề xuất liễu tam cá tân nguyên tắc, trọng tân tương nhân công trí năng định nghĩa vi “Khả chứng minh đối nhân loại hữu ích đích nhân công trí năng” (ProvablyBeneficial AI).
Đệ nhất nguyên tắc: Lợi tha chủ nghĩa (Altruism). Giá cá nguyên tắc ý vị trứ, cơ khí đích duy nhất mục tiêu thị tối đại hóa địa thật hiện nhân loại đích mục tiêu dữ giới trị.
Giá nhất điểm dữ 1942 niên ngải tát khắc · a tây mạc phu sở định nghĩa đích cơ khí nhân tam định luật bối đạo nhi trì. Tại a tây mạc phu đích định nghĩa lí, cơ khí nhân tại bất thương hại nhân loại, đãn yếu tại tuân tòng nhân loại yếu cầu đích cơ sở thượng bảo hộ tự kỷ. “Tha đích đệ tam điều nguyên tắc chỉ xuất, cơ khí nhân nhất định yếu duy hộ tự kỷ đích sinh tồn. Đãn ngã định nghĩa đích cơ khí đối duy hộ tự thân sinh tồn hào vô hưng thú.” Russell giáo thụ thuyết.
Đệ nhị nguyên tắc: Khiêm tốn nguyên tắc (humility) ——AI đối nhân loại ứng cai bảo trì kính úy chi tâm.
Tại giá nhất nguyên tắc đích chỉ đạo hạ, AI yếu thừa nhận tự kỷ tịnh bất thị vô sở bất tri hòa vô sở bất năng. Giá dã tựu thị thuyết, cơ khí nhu yếu tri đạo tương nhân loại đích giới trị tối đại hóa, đãn tha dã yếu thanh sở tự kỷ tịnh bất năng hoàn toàn lý giải giới trị đích hàm nghĩa.
Nhân thử vi liễu đối nhân loại hữu dụng, tha tựu đắc thông quá quan sát nhân loại tố đích tuyển trạch, căn cư nhân loại cấp dư tha đích tín tức khứ học tập, chưởng ác nhân loại đích nhu cầu.
Cơ khí nhu yếu thừa nhận, nhân loại tài thị nhu cầu đích chủ tể. Nhi giá nhất nguyên tắc, đối vu ngã môn vị lai chế tạo xuất an toàn đích nhân công trí năng thập phân trọng yếu.
Đệ tam nguyên tắc: Cơ vu nhân loại đích hành vi cấp cơ khí thiết định thiên hảo đề cung y cư.
Thiết trí giá nhất điều nguyên tắc đích nguyên nhân thị, cơ khí vãng vãng vô pháp chuẩn xác liễu giải như hà thật hiện nhân loại đích giới trị. Đãn thị một quan hệ, nhân loại khả dĩ phụ trợ cơ khí lai thật hiện. Nhân thử yếu tăng gia nhân hòa cơ khí đích hỗ động hoàn tiết.
Russell giáo thụ nhận vi, cơ khí nhân thiết kế đích mục đích tịnh bất thị chỉ vi liễu mãn túc nhất cá nhân hoặc giả nhất cá dụng hộ đích nguyện vọng, nhi thị khứ tôn trọng nhân môn đô nhận khả đích đạo đức giới trị quan. “Bỉ như, nhân loại khả năng hội tố thác sự, sản sinh vi bối đạo đức chuẩn tắc đích hành vi. Đãn ngã môn tịnh bất hi vọng cơ khí nhân phục chế giá ta hành vi. Phản chi, ngã môn hi vọng cơ khí nhân khứ thường thí lý giải nhân loại tố sự đích động cơ hòa nhân loại cộng thông đích đạo đức quan, nhi thả tại hợp thích đích tình huống hạ chế chỉ nhân loại khứ tố na ta bất cai tố đích sự.”
Vi liễu canh hảo đích giải thích giá tam điều nguyên tắc, Russell giáo thụ đề xuất liễu phụ trợ du hí (assistance game) đích phương pháp, tức tăng gia nhân loại dữ AI đích hỗ động quá trình: Giá cá phụ trợ du hí mô hình giả thiết nhân loại hữu tự kỷ đích thiên hảo, tịnh hội căn cư giá cá thiên hảo khứ hành động; tại AI đích hệ thống lí, nhân loại đích thiên hảo bị tác vi tiên quyết điều kiện dẫn nhập, cơ khí nhân tuy nhiên bất tri đạo hoàn cảnh trung thập ma kỳ tha đích điều kiện trị hội ảnh hưởng nhân loại đích thiên hảo, đãn tha nhu yếu tri đạo tha đích tối chung đích mục đích thị tẫn khả năng địa tầm trảo mãn túc nhân loại đích thiên hảo đích tối ưu giải.