Tài liên xã 6 nguyệt 20 ngày tin ( biên tập sử chính thừa ) địa phương thời gian thứ tư, tháng trước từ OpenAI từ chức công ty liên hợp người sáng lập, ( trước ) thủ tịch nhà khoa học, cùng với năm trước ở OpenAI hội đồng quản trị đầu xuất quan kiện một phiếu đem Altman đuổi ra công ty, lại đổi ý đem hắn thỉnh về tới chiều sâu học tập lĩnh vực quyền uy chuyên gia y ngươi á · tô tì khắc duy ( Ilya Sutskever ), chính thức tuyên bố đơn phi sau hoàn toàn mới AI gây dựng sự nghiệp hạng mục.



( nơi phát ra: X )

Đơn giản tới giảng, tô tì khắc duy sáng lập một nhà gọi là “An toàn siêu cấp trí năng” ( Safe Superintelligence, tên gọi tắt SSI ) tân công ty, mục tiêu là “Một bước đúng chỗ” mà sáng tạo một cái an toàn siêu cấp trí năng.

An toàn đệ nhất, nối thẳng chung cực mục tiêu

Tô tì khắc duy tính toán ở một cái thuần túy nghiên cứu cơ cấu, trực tiếp sáng tạo một cái an toàn, cường đại trí tuệ nhân tạo hệ thống, đồng thời sẽ không ở ngắn hạn nội đẩy ra bất luận cái gì thương nghiệp hóa sản phẩm hoặc phục vụ. Hắn đối truyền thông giới thiệu xưng: “Cái này công ty thực đặc biệt, bởi vì nó cái thứ nhất sản phẩm liền sẽ là an toàn siêu cấp trí năng, thẳng đến ( thực hiện ) kia một ngày trước sẽ không làm bất luận cái gì mặt khác sự tình, hoàn toàn cách ly với phần ngoài áp lực, không cần phải đi xử lý đại hình, phức tạp sản phẩm hoặc lâm vào kịch liệt cạnh tranh trung.”

An toàn đệ nhất, không làm thương nghiệp hóa, không thèm nhìn ngoại giới áp lực, chỉnh đoạn lời nói tô tì khắc duy không có nói đến quá một lần OpenAI, nhưng sau lưng ý tứ đã không nói cũng hiểu. Tuy rằng OpenAI “Cung đấu” sự kiện lấy Altman đại thắng, tốc thắng kết thúc, nhưng chỉnh chuyện sau lưng gia tốc chủ nghĩa cùng an toàn chủ nghĩa lộ tuyến chi tranh cũng không có kết thúc.

Tuy rằng lý niệm bất đồng, nhưng hai bên trong lén lút vẫn như cũ duy trì cũng khá quan hệ. Ở năm nay 5 nguyệt 15 ngày tuyên bố rời đi công tác mười năm OpenAI là lúc, tô tì khắc duy cũng tuyên bố một trương quản lý tầng chụp ảnh chung, cũng tỏ vẻ tin tưởng ở Altman đám người dẫn dắt hạ, OpenAI đem xây dựng ra an toàn lại hữu ích AGI ( thông dụng trí tuệ nhân tạo ).



( nơi phát ra: X )

Đối với tô tì khắc duy đường ai nấy đi, Altman đáp lại xưng “Sâu sắc cảm giác bi thương”, cũng tỏ vẻ không có tô tì khắc duy liền không có OpenAI hôm nay.

Tự năm trước “Cung đấu” sự kiện sau khi kết thúc, tô tì khắc duy vẫn luôn đối với chỉnh sự kiện bảo trì trầm mặc, thẳng đến hôm nay vẫn như cũ. Ở bị hỏi cập hắn cùng Altman quan hệ khi, tô tì khắc duy chỉ là đơn giản mà trả lời một câu “Thực hảo”, mà bị hỏi cập qua đi mấy tháng trải qua khi, hắn cũng chỉ là tỏ vẻ “Phi thường kỳ quái”.

“Giống hạch an toàn giống nhau an toàn”

Từ ở nào đó ý nghĩa tới xem, tô tì khắc duy trước mắt cũng vô pháp chuẩn xác giới định AI hệ thống an toàn cùng không đường ranh giới, chỉ có thể nói có một ít không giống nhau ý tưởng.

Tô tì khắc duy ám chỉ xưng, hắn tân công ty đem nếm thử sử dụng “Khảm nhập AI hệ thống công trình đột phá” tới thực hiện an toàn, mà không phải kỹ thuật thượng lâm thời ứng dụng “Phòng hộ lan”. Hắn cường điệu: “Chúng ta theo như lời an toàn, là chỉ giống hạch an toàn giống nhau an toàn, mà không phải cùng loại với ‘ tín nhiệm cùng an toàn ’ như vậy đồ vật”.

Hắn tỏ vẻ hoa rất nhiều năm qua tự hỏi AI an toàn phương diện vấn đề, hơn nữa trong lòng trong mắt đã có vài loại thực hiện phương pháp. Hắn giới thiệu xưng: “Ở cơ bản nhất mặt thượng, an toàn siêu cấp trí năng hẳn là có như vậy đặc tính, tức sẽ không đối nhân loại tạo thành đại quy mô thương tổn. Sau đó, chúng ta có thể nói hy vọng nó trở thành một loại thiện lực lượng, một loại thành lập ở mấu chốt giá trị quan thượng lực lượng.”

Trừ bỏ đại danh đỉnh đỉnh tô tì khắc duy ngoại, SSI còn có hai tên người sáng lập —— trước quả táo công ty máy móc học tập chủ quản, nổi danh khoa học kỹ thuật nguy hiểm đầu tư người Daniel · cách Ross, một cái khác là cùng tô tì khắc duy cùng ở OpenAI huấn luyện đại mô hình kỹ sư Daniel · lai duy.

Lai duy tỏ vẻ, ta nguyện cảnh cùng tô tì khắc duy hoàn toàn nhất trí: Một cái tiểu mà giỏi giang đoàn đội, mỗi người đều chuyên chú với thực hiện an toàn siêu cấp trí năng chỉ một mục tiêu.

Tuy rằng trước mắt cũng không rõ ràng SSI vì sao có gan hô lên “Một bước đúng chỗ” ( rốt cuộc có bao nhiêu đầu tư người, đầu bao nhiêu tiền ), nhưng cách Ross minh xác tỏ vẻ, công ty đích xác gặp mặt lâm rất nhiều vấn đề, nhưng thối tiền lẻ không phải là một trong số đó.

Trở về OpenAI sơ tâm

Từ một loạt nguyện cảnh trung không khó phát hiện, cái gọi là “An toàn siêu cấp trí năng”, bản chất chính là OpenAI sáng lập lúc đầu khái niệm. Nhưng theo huấn luyện đại mô hình mang đến phí dụng tăng vọt, OpenAI không thể không cùng hơi mềm hợp tác, đổi lấy tài chính cùng tính lực duy trì kéo dài bọn họ sự nghiệp.

Như vậy vấn đề cũng sẽ xuất hiện ở SSI tương lai trên đường —— công ty đầu tư người thật sự nguyện ý đầu nhập đại lượng tài chính, nhìn nhà này công ty không có bất luận cái gì sản xuất, thẳng đến thực hiện “Siêu cấp trí năng” cuối cùng mục tiêu sao?

Thuận tiện nhắc tới, “Siêu cấp trí năng” bản thân cũng là một cái lý luận thượng khái niệm, chỉ chính là một loại siêu việt nhân loại trình độ trí tuệ nhân tạo hệ thống, so với toàn cầu đại đa số siêu cấp khoa học kỹ thuật công ty đang ở theo đuổi thành quả càng thêm tiên tiến. Nhưng trong nghề đối với có không thực hiện như vậy trí năng, hoặc như thế nào xây dựng như vậy hệ thống chưa hình thành chung nhận thức.

Mà lệnh người để ý chính là, ở SSI công ty tuyên bố đầu cái thông cáo trung, câu đầu tiên lời nói chính là “Siêu cấp trí năng đã gần trong gang tấc”.

Phụ: SSI thông cáo

An toàn siêu cấp trí năng công ty (Safe Superintelligence Inc.)

Siêu cấp trí năng đã gần trong gang tấc.

Xây dựng an toàn siêu cấp trí năng là chúng ta thời đại này quan trọng nhất kỹ thuật vấn đề.

Chúng ta đã khởi động trên thế giới cái thứ nhất thẳng đánh mục tiêu SSI phòng thí nghiệm, mục tiêu cùng sản phẩm chỉ có một cái: An toàn siêu cấp trí năng.

Nó gọi là an toàn siêu cấp trí năng công ty.

SSI là chúng ta sứ mệnh, tên của chúng ta cùng chúng ta toàn bộ sản phẩm lộ tuyến đồ, bởi vì đây là chúng ta duy nhất chú ý điểm. Chúng ta đoàn đội, người đầu tư cùng thương nghiệp hình thức đều đồng tâm hiệp lực thực hiện SSI.

Chúng ta đem an toàn tính cùng năng lực song hành, coi là yêu cầu thông qua cách mạng tính công trình cùng khoa học đột phá giải quyết kỹ thuật vấn đề. Chúng ta kế hoạch ở bảo đảm an toàn tính trước sau ưu tiên dưới tình huống tận khả năng mau mà đề cao năng lực.

Như vậy, chúng ta là có thể ở bình tĩnh trạng thái trung mở rộng.

Chúng ta chuyên chú ý nghĩa sẽ không nhân quản lý sự vụ hoặc sản phẩm chu kỳ mà phân tâm, chúng ta thương nghiệp hình thức ý nghĩa an toàn tính cùng kỹ thuật tiến bộ đều sẽ không đã chịu ngắn hạn thương nghiệp áp lực ảnh hưởng.

Chúng ta là một nhà nước Mỹ công ty, ở khăn Lạc Aalto cùng Tel Aviv thiết có phòng làm việc, này đó địa phương là chúng ta căn cơ nơi, cũng có thể ở này đó địa phương chiêu mộ đến đỉnh tiêm kỹ thuật nhân tài.

Chúng ta đang ở tổ kiến một cái tinh giản, xuất sắc thế giới đứng đầu kỹ sư cùng nghiên cứu nhân viên đoàn đội, chỉ chuyên chú với SSI.

Nếu ngươi là người như vậy, chúng ta cung cấp một cái cơ hội, làm ngươi hoàn thành cả đời sự nghiệp, trợ giúp giải quyết chúng ta thời đại này quan trọng nhất kỹ thuật khiêu chiến.

Hiện tại là lúc. Gia nhập chúng ta.

Elijah · tô tì khắc duy ngươi, Daniel · cách Ross, Daniel · lợi duy

2024 năm 6 nguyệt 19 ngày