Anthropic xây dựng cơ chế kiểm soát AI dài hạn

Cơ chế quản trị nhằm bảo vệ sứ mệnh dài hạn

Ngày 27/10, Reuters đưa tin Anthropic đã thiết lập một cấu trúc quản trị phức tạp nhằm bảo đảm công ty tiếp tục theo đuổi mục tiêu phát triển trí tuệ nhân tạo vì lợi ích cộng đồng, ngay cả khi những người sáng lập rời khỏi vị trí lãnh đạo.

Theo hồ sơ IPO được công bố trước đó, Anthropic không chỉ tập trung vào quyền lợi của cổ đông mà còn tìm cách duy trì các nguyên tắc an toàn và trách nhiệm trong quá trình phát triển AI. Đây là vấn đề đặc biệt quan trọng đối với doanh nghiệp đang phát triển những mô hình trí tuệ nhân tạo có năng lực ngày càng cao và được ứng dụng rộng rãi trong đời sống.

Anthropic được thành lập với định hướng phát triển AI an toàn, đồng thời cảnh báo rằng công nghệ này có thể mang lại những bước tiến lớn cho nhân loại nhưng cũng tiềm ẩn rủi ro nghiêm trọng nếu bị sử dụng sai mục đích hoặc không được kiểm soát hiệu quả.

Theo Reuters, định giá dự kiến lên tới 1.500 tỷ USD sẽ đưa Anthropic trở thành một trong những doanh nghiệp vì lợi ích cộng đồng có giá trị lớn nhất thế giới nếu kế hoạch IPO đạt được các kỳ vọng. Mô hình doanh nghiệp này được xây dựng theo luật bang Delaware của Mỹ, yêu cầu công ty cân bằng lợi ích của nhà đầu tư với mục tiêu phục vụ lợi ích xã hội.

Cấu trúc quản trị của Anthropic vì thế không chỉ liên quan đến hoạt động kinh doanh mà còn phản ánh nỗ lực giải quyết một câu hỏi lớn: Ai sẽ chịu trách nhiệm định hướng các công nghệ AI mạnh mẽ khi những người trực tiếp tạo ra chúng không còn nắm quyền điều hành?

Biểu trưng công ty nghiên cứu trí tuệ nhân tạo Anthropic - đơn vị phát triển mô hình Claude và thiết lập cấu trúc quản trị AI dài hạn. Nguồn: Reuters.

Các nhà sáng lập nắm quyền biểu quyết đặc biệt

Một trong những điểm đáng chú ý trong hồ sơ IPO là quyền biểu quyết được trao cho bảy nhà đồng sáng lập Anthropic.

Theo Reuters, nhóm này nắm giữ 50,1% quyền biểu quyết đối với một số vấn đề quan trọng thông qua cổ phiếu loại F có quyền biểu quyết cao hơn thông thường. Cơ chế này giúp các nhà sáng lập duy trì ảnh hưởng đối với việc lựa chọn thành viên hội đồng quản trị và một số đề xuất của cổ đông.

Anthropic cho rằng những người sáng lập có vị thế đặc biệt để bảo vệ sứ mệnh ban đầu của công ty. Tuy nhiên, việc tập trung quyền biểu quyết cũng đặt ra câu hỏi về mức độ ảnh hưởng của các cổ đông khác đối với những quyết định chiến lược.

Cơ chế này được thiết kế để duy trì định hướng dài hạn, hạn chế nguy cơ doanh nghiệp thay đổi mục tiêu chỉ vì áp lực lợi nhuận trong ngắn hạn. Điều đó đặc biệt có ý nghĩa trong ngành AI, nơi các quyết định về tốc độ phát triển sản phẩm, an toàn công nghệ và đầu tư nghiên cứu có thể tạo ra những hệ quả vượt xa phạm vi của một doanh nghiệp thông thường.

Tuy nhiên, cấu trúc quản trị cũng có thể làm giảm khả năng tác động của cổ đông đối với hoạt động điều hành, đặc biệt nếu họ muốn thúc đẩy những thay đổi về chiến lược hoặc cơ chế giám sát.

Quỹ tín thác độc lập giữ vai trò trong hội đồng quản trị

Bên cạnh nhóm sáng lập, Anthropic còn thiết lập một quỹ tín thác vì lợi ích dài hạn, nắm giữ cổ phiếu loại T với quyền lựa chọn phần lớn thành viên hội đồng quản trị.

Theo hồ sơ được Reuters dẫn lại, quỹ tín thác hiện do Neil “Buddy” Shah, một chuyên gia trong lĩnh vực y tế toàn cầu, làm chủ tịch. Cơ chế này nhằm tạo ra một tầng giám sát độc lập, giúp bảo đảm hội đồng quản trị tiếp tục tuân thủ sứ mệnh vì lợi ích cộng đồng của doanh nghiệp.

Anthropic cũng dự tính những kịch bản có thể xảy ra nếu cơ chế cổ phiếu loại T không còn tồn tại. Theo công ty, các quy định được thiết kế nhằm duy trì sự linh hoạt trong dài hạn, đồng thời bảo vệ mục tiêu phát triển AI có trách nhiệm ngay cả khi quyền sở hữu hoặc quyền kiểm soát thay đổi.

Sau khi quyền biểu quyết đặc biệt của các nhà sáng lập chấm dứt, hội đồng quản trị dự kiến được chia thành ba nhóm có quy mô tương đương, với nhiệm kỳ ba năm và lịch tái bổ nhiệm so le.

Mô hình này có thể giúp duy trì tính liên tục trong quản trị, nhưng cũng hạn chế khả năng thay đổi đồng loạt thành phần hội đồng quản trị. Điều đó khác với xu hướng tại nhiều doanh nghiệp lớn của Mỹ, nơi toàn bộ thành viên hội đồng quản trị thường được đưa ra bầu lại hằng năm nhằm tăng trách nhiệm giải trình trước cổ đông.

Tăng cường giám sát rủi ro AI

Anthropic cũng thành lập một ủy ban an toàn và rủi ro trực thuộc hội đồng quản trị nhằm giám sát những vấn đề liên quan đến quá trình phát triển công nghệ.

Theo Reuters, ủy ban hiện có sự tham gia của Vas Narasimhan, Giám đốc điều hành tập đoàn dược phẩm Novartis, và Chris Liddell, cựu quan chức chính quyền Tổng thống Donald Trump. Reed Hastings, đồng sáng lập Netflix, đảm nhiệm vị trí thành viên độc lập chủ chốt của hội đồng quản trị.

Việc đưa các nhân vật có kinh nghiệm trong lĩnh vực kinh doanh, quản trị và chính sách vào cơ cấu giám sát cho thấy Anthropic đang tìm cách kết hợp năng lực công nghệ với trách nhiệm quản trị doanh nghiệp.

Tuy nhiên, hiệu quả thực tế của cơ chế này sẽ phụ thuộc vào khả năng giám sát độc lập, tính minh bạch trong quá trình ra quyết định và mức độ sẵn sàng ưu tiên an toàn khi xuất hiện xung đột giữa lợi ích thương mại với mục tiêu phát triển có trách nhiệm.

Đây cũng là thách thức chung đối với ngành AI, khi các công ty phải cân bằng giữa áp lực cạnh tranh, nhu cầu huy động vốn và yêu cầu kiểm soát những rủi ro tiềm tàng của công nghệ.

Bài toán kiểm soát AI vượt ra ngoài phạm vi doanh nghiệp

Cấu trúc quản trị của Anthropic phản ánh một vấn đề ngày càng được quan tâm: quyền kiểm soát AI không chỉ nằm ở những người phát triển công nghệ mà còn phụ thuộc vào các thể chế giám sát, cơ chế sở hữu và trách nhiệm giải trình.

Nếu những mô hình AI mạnh mẽ có thể tác động sâu rộng đến nền kinh tế, an ninh và đời sống xã hội, việc xác định ai có quyền đưa ra các quyết định quan trọng sẽ trở thành vấn đề có ý nghĩa vượt xa phạm vi kinh doanh.

Với Anthropic, cơ chế quản trị mới nhằm bảo vệ sứ mệnh ngay cả khi đội ngũ sáng lập dần rời khỏi công ty. Nhưng cấu trúc này cũng đặt ra câu hỏi về cách cân bằng giữa quyền lực của nhà sáng lập, quyền lợi cổ đông và vai trò giám sát độc lập.

Trong bối cảnh AI phát triển nhanh chóng, thách thức không chỉ là xây dựng những hệ thống thông minh hơn mà còn là bảo đảm các tổ chức phát triển chúng có đủ cơ chế để quản lý công nghệ một cách có trách nhiệm trong dài hạn.