MIT: Không cần hoảng sợ về ngày tận thế của AI, khả năng xác thực là nguồn tài nguyên khan hiếm

Nguồn: Bankless podcast; tổng hợp: Felix, PANews

Nhà kinh tế học Christian Catalini từ MIT đã tham gia chương trình của Ryan và David, phân tích sâu sắc về bài báo mới của ông có tiêu đề “Một số kinh tế học đơn giản về trí tuệ nhân tạo tổng quát”. Bài báo chỉ ra rằng tài nguyên khan hiếm trong AI không còn là trí thông minh, mà là sự xác thực: tức là khả năng của con người để kiểm tra, đánh giá và xác nhận độ chính xác của đầu ra từ AI.

Christian đã giải thích chi tiết về hai đường cong chi phí đang tái cấu trúc các ngành công nghiệp (chi phí tự động hóa và chi phí xác thực), giải thích lý do tại sao những công việc đầu vào biến mất trước tiên, và tại sao ngay cả những chuyên gia hàng đầu cũng vô tình nuôi dưỡng người kế nhiệm của họ ( “lời nguyền của lập trình viên”). Ông cũng đã phác thảo ba vai trò có thể được giữ lại trong quá trình chuyển đổi: Giám đốc, nhà tạo nghĩa và người bảo đảm trách nhiệm.

PANews đã tổng hợp tinh hoa của cuộc đối thoại.

Người dẫn chương trình: Tôi nghĩ rằng nhiều thính giả có thể giống như tôi, có một nỗi sợ hãi đối với AI, bạn nghĩ tại sao mọi người lại lo lắng về AI? Sự lo lắng của họ có hợp lý không?

Christian: Chúng ta đều có cùng cảm giác. Đây là một thời kỳ thay đổi nhanh chóng và mang tính cách mạng, bạn càng gần với mã nguồn, bạn có thể chứng kiến sự gia tốc này sớm hơn, sự tăng trưởng theo cấp số nhân này đã trở nên rất thực tế trong vài tháng qua. Công nghệ này đã thực hiện được nhiều điều mà nhiều người tưởng rằng sẽ mất nhiều thời gian hơn để hoàn thành, cảm giác này là điều mà tất cả chúng ta đều đang nỗ lực đối phó. Nhưng tôi nghĩ rằng “thuyết tận thế” là sai lầm, mọi người thường đánh giá thấp tiềm năng của những công cụ này. Đúng là sẽ có một giai đoạn chuyển tiếp cực kỳ khó khăn, tốc độ chuyển đổi công việc là chưa từng có trong lịch sử. Nhưng dù sao, nếu bạn tận dụng đặc điểm tốt nhất của công nghệ này và đầu tư vào nó, trong dài hạn, lợi ích vẫn sẽ nhiều hơn, mặc dù sẽ có nhiều chông chênh. Kinh tế học coi công việc là tập hợp các nhiệm vụ, trong đó một số nhiệm vụ sẽ được tự động hóa, đây là tin tốt, nhưng điều quan trọng là bạn phải tái đào tạo bản thân và giữ mình ở vị trí tiên phong.

Người dẫn chương trình: Bạn nghĩ ai sẽ là người chịu tác động đầu tiên?

Christian: Đây là một câu hỏi tuyệt vời, tôi có nhiều suy nghĩ khác nhau về điều này. Đầu tiên, khi tôi nói rằng những người gần với mã nguồn sẽ chịu tác động đầu tiên, tôi có nghĩa là họ sẽ trải nghiệm sức mạnh của công nghệ này trước tiên. Như “nghịch lý Jevons” chỉ ra, khi một thứ gì đó trở nên hiệu quả, chúng ta lại tiêu thụ nhiều hơn, chẳng hạn như chúng ta sẽ viết nhiều phần mềm hơn. Tôi nghĩ rằng lập trình sẽ xảy ra sự phân hóa giống như nhiều nghề khác, chúng tôi gọi nó là “chu kỳ đầu vào biến mất” trong bài báo. Nếu bạn là người mới vào nghề, chưa có “kiến thức ngầm” để phân biệt sản phẩm xuất sắc với sản phẩm tầm thường, thì AI có thể thay thế bạn một cách tốt đẹp trong nhiều lĩnh vực.

Mọi người hiện nay có thể dễ dàng có được một nhân viên marketing khá tốt, một lập trình viên mới vào nghề, hoặc một luật sư có thể giúp bạn xử lý hầu hết các tình huống, bạn chỉ cần mời một luật sư hàng đầu vào giai đoạn cuối để thực hiện xác thực. Mặt khác, ngay cả những chuyên gia hàng đầu, trong quá trình đưa AI vào, cũng đang vô tình tạo ra nhãn, thông tin và dấu vết số, những điều này cuối cùng sẽ khiến công việc của họ bị tự động hóa. Những phòng thí nghiệm hàng đầu đang thuê những tài năng hàng đầu từ các lĩnh vực như tài chính, sử dụng họ để tạo ra tiêu chuẩn đánh giá, tích hợp những hiểu biết chuyên môn này vào các mô hình lớn. Vì vậy, tôi nghĩ rằng không có công việc đơn lẻ nào là 100% an toàn, ngay cả lao động thể chất bị hạn chế bởi khả năng chế tạo robot, các mô hình phần thưởng sẽ đạt được những bước nhảy vọt lớn trong vài năm tới. Bất cứ điều gì xảy ra trên màn hình đều có thể được theo dõi, sao chép và học hỏi. Đối với mỗi nghề, điều quan trọng là phải suy nghĩ: nếu tôi có thể ủy thác càng nhiều công việc càng tốt cho AI, tôi còn có thể tạo ra giá trị ở đâu?

Thực tế, mọi người về “gu” và “đánh giá” có nhiều “tự an ủi”. Chúng rất mơ hồ. Vì vậy, trong bài báo, chúng tôi nói rằng: không có cái gọi là gu hay đánh giá tốt xấu, chỉ có sự khác biệt giữa “có thể đo lường” và “không thể đo lường”. Nếu một điều gì đó đã được đo lường, máy móc có thể sao chép nó. Nếu một điều gì đó vẫn chỉ nằm trong trọng số của não bạn, chẳng hạn như một nhà thiết kế hàng đầu đã tích lũy hàng chục ngàn giờ kinh nghiệm, có thể quyết định điều gì nên được phát hành và điều gì không, đó chính là cái mà chúng tôi gọi là “xác thực”. Tất cả xác thực chỉ là bước cuối cùng này: đại diện AI đã tạo ra sản phẩm, và bạn với tư cách là người quyết định, đến để đánh giá xem nó có đạt tiêu chuẩn để ra thị trường hay không. Khi máy móc có được dữ liệu tốt hơn, mọi thứ sẽ được tự động hóa; nhưng trong những lĩnh vực chưa biết hoặc không có dữ liệu gì, phần này vẫn sẽ thuộc về con người trong vài năm tới.

Người dẫn chương trình: Đây là một cái nhìn rất sâu sắc. Nhưng tôi cũng đang nghĩ rằng, việc kỹ sư tự động hóa công việc của mình là điều tự nhiên. Mỗi ngành có bị tác động như nhau không?

Christian: Chúng tôi có đủ bằng chứng cho thấy rằng sự thay đổi sẽ không đồng đều. Có thể nghĩ như này: công việc này có phải chỉ là một “bao bì” cho một thứ mà xã hội không cần thiết hay không? Ví dụ như công việc tư vấn thông thường, nếu nó chủ yếu là đóng gói, tinh lọc và tóm tắt thông tin đã có sẵn rộng rãi, thì rõ ràng là có rủi ro. Nhưng nếu đó là kiến thức chuyên môn trong lĩnh vực khan hiếm, hoặc cần có tư vấn vì lý do chính trị, những điều này sẽ tồn tại. Hãy tự hỏi bản thân, nghề này có lợi nhuận vì nó giải quyết một vấn đề phức tạp, hay chỉ đơn giản vì có một số nút thắt do con người tạo ra.

Người dẫn chương trình: Xác thực thực sự có nghĩa là gì? Tôi rất khó để phân chia công việc một ngày của mình thành công việc nhận thức và công việc xác thực.

Christian: Đại diện đã học và đo lường mọi thứ từ mạng, sách, vì chúng rẻ hơn và có thể mở rộng, nên sẽ thay thế phần có thể đo lường. Nhưng những điều mà đại diện vẫn chưa biết: đó là trọng số mạng nơ-ron độc đáo trong não bạn. Đây là những gì bạn có được thông qua kinh nghiệm và cuộc đấu tranh của chính mình, điều này khiến bạn trở thành một chuyên gia hàng đầu. Chẳng hạn như những người tham gia tiền điện tử sớm, nhiều người đến từ Argentina, Venezuela, đã trải qua lạm phát phi mã, phản ứng của họ với tài sản hoàn toàn khác. Sự đo lường độc đáo bên trong này vẫn là một lợi thế lớn.

Xác thực là gì? Đó là sự khác biệt giữa tiêu chuẩn đo lường của bạn về thế giới và tiêu chuẩn mà đại diện sở hữu. Giống như một biên tập viên hàng đầu, biết chính xác bài viết nào có thể gợi lên sự đồng cảm; hoặc một CTO hàng đầu, khi đối mặt với kho mã khổng lồ do AI tạo ra, biết chính xác những phần quyết định nào phải được kiểm tra bởi con người, phần này vẫn chưa thể được máy móc đo lường.

Người dẫn chương trình: Tôi lấy một ví dụ, nếu tôi thấy một video về Israel bị tấn công bằng tên lửa trên X, nhưng tôi phát hiện ra rằng đây là do AI tạo ra. Tôi sử dụng bộ não của mình để nhận ra vấn đề và có thể tạo ra video tốt hơn bằng cách nhắc lại, đó có phải là “khả năng xác thực” của tôi không?

Christian: Đây là một ví dụ rất tốt. Hơn nữa, có thể chúng ta sớm sẽ ở trong một thế giới mà đối với hầu hết mọi người, video này khó mà phân biệt được với thực tế. Bước tiếp theo có thể là các chuyên gia quân sự nhận ra rằng động lực ngọn lửa không đúng. Bước tiếp theo nữa, thậm chí cả các chuyên gia quân sự cũng không thể phân biệt ngay lập tức, cần AI để phân tích các nguyên lý vật lý và thực hiện các thử nghiệm mô phỏng. Cuối cùng, có thể hoàn toàn không thể phân biệt được, đến lúc đó, chúng ta sẽ phải dựa vào cơ sở hạ tầng dựa trên mật mã để xác nhận tính xác thực. Trong lĩnh vực y tế cũng vậy, các trường hợp biên giới cuối cùng cần những bác sĩ chuyên khoa hàng đầu tận dụng 20 năm kinh nghiệm và hiểu biết về bối cảnh cụ thể của bệnh nhân để bác bỏ phán đoán của AI. Đây là lớp “lọc” cuối cùng mà chúng tôi quan tâm. Khi chúng ta làm điều này, chúng ta đã giải phóng rất nhiều thời gian. Vì vậy, đó chính là mặt tốt. Chúng ta có thể làm nhiều hơn với ít tài nguyên hơn. Chi phí của những thứ đắt đỏ sẽ giảm xuống. Toàn xã hội sẽ tiêu thụ nhiều hơn những thứ này. Tôi nghĩ đây là tin tốt.

Người dẫn chương trình: Nhưng trong ví dụ của bạn, hiện tại anh ta đang làm xác thực, nhưng rất nhanh chóng anh ta không thể xác thực nữa, cần có chỉ huy quân sự, cuối cùng ngay cả chỉ huy cũng không thể xác thực, phải nhờ đến AI. Điều này không phải chính là minh chứng cho việc “xác thực” ban đầu có giá trị, nhưng rất nhanh cũng sẽ bị tự động hóa bởi AI? Vậy thì ngay cả “xác thực” bản thân cũng không an toàn?

Christian: Đúng vậy. Chúng tôi gọi điều này trong bài báo là “lời nguyền của lập trình viên”. Hành động xác thực rất lý trí này, bản thân nó đang thúc đẩy sự phát triển công nghệ tiên tiến và số hóa dữ liệu kinh nghiệm. Chúng tôi không thể ngừng lại, vì tất cả các luật sư hay những người hành nghề đều cố gắng sử dụng AI. Xác thực thực sự là một lĩnh vực đang thu hẹp.

Người dẫn chương trình: Ngay cả lĩnh vực công việc xác thực cuối cùng cũng ngày càng thu hẹp, khi nào chúng ta mới có thể không lo âu?

Christian: Đầu tiên, có một số điều vốn dĩ không thể đo lường, như cái gọi là “trò chơi địa vị” hoặc những điều mà con người gán cho ý nghĩa. Những lĩnh vực này sẽ không bị máy móc xâm chiếm, vì đặc điểm của chúng liên quan đến sự đồng thuận giữa con người. Tiền điện tử cũng phần nào như vậy, điều quan trọng là con người đạt được sự đồng thuận về giá trị của cái gì. Khi lĩnh vực công việc có thể đo lường thu hẹp lại, chúng ta sẽ phát minh ra nhiều cách để khiến công việc không thể đo lường trở nên có ý nghĩa.

Người dẫn chương trình: AI có thể xây dựng một trang web trong 10 giây, có thể không viết ra một tweet nào hấp dẫn đối với con người. Đây có thể là một trong những công việc xác thực còn lại cuối cùng?

Christian: Thu hút sự chú ý, kể một câu chuyện thực sự mới lạ, đó là công việc sáng tạo cực kỳ khó khăn, cố gắng phá vỡ những điều chưa bao giờ được đo lường. Chúng ta đã tiến hóa ra khả năng ứng phó mạnh mẽ với môi trường không xác định trong suốt chiều dài sinh tử. Những người làm công việc này được gọi là “nhà sản xuất ý nghĩa”. Chẳng hạn như trong lĩnh vực nghệ thuật hoặc văn hóa, cái gì là tốt, phụ thuộc vào sự đồng thuận của con người. Ngay cả khi bạn sử dụng đại diện AI, bạn cũng phải thiết lập “ý định”.

Người dẫn chương trình: Chi phí tự động hóa đang giảm theo cấp số nhân, vậy còn “chi phí xác thực” thì sao? Nó có mãi mãi bị ràng buộc bởi giới hạn sinh học của con người không?

Christian: Hiện tại nó bị ràng buộc bởi sinh học. Vì vậy, nhiều công ty đã phát hành một lượng lớn mã do AI tạo ra, nhưng không có đủ nhân lực để đọc và xác thực chúng, trong đó chắc chắn ẩn chứa rủi ro.

Người dẫn chương trình: Không thể dùng AI để xác thực AI sao?

Christian: Nếu AI có thể xác thực đúng, thì phần này bản thân nó là có thể tự động hóa. Sau khi sử dụng tất cả AI để xác thực, những gì còn lại là những thứ thực sự không thể được AI xác thực, đó mới là nút thắt cần sự can thiệp của con người.

Người dẫn chương trình: Nếu xác thực là tài nguyên khan hiếm mới, nhưng đang liên tục thu hẹp, thì trong nền kinh tế này, nên làm thế nào để làm việc và đầu tư?

Christian: Chúng tôi đã xây dựng một ma trận 2x2 dựa trên “chi phí tự động hóa” và “chi phí xác thực”. Góc dưới bên trái là những công nhân bị thay thế: tự động hóa dễ dàng, xác thực cũng dễ dàng, bạn chắc chắn không muốn ở lại đây. Ba phần tư còn lại là:

Nhà sản xuất ý nghĩa: tự động hóa khó, xác thực khó. Họ cam kết vào sự đồng thuận xã hội, trò chơi địa vị và kết nối con người. Chẳng hạn như những nhà tạo gu trong ngành thời trang, những KOL tiền điện tử trên Twitter, họ tạo ra câu chuyện và điều phối sự chú ý.

Người bảo đảm trách nhiệm: tự động hóa dễ dàng, xác thực khó. Họ là những chuyên gia hàng đầu trong lĩnh vực, như luật sư, bác sĩ hoặc nhà đầu tư mạo hiểm hàng đầu. Họ sử dụng AI trên quy mô lớn, nhưng cung cấp dịch vụ chịu trách nhiệm và xác thực cho các trường hợp biên giới cuối cùng.

Giám đốc: tự động hóa khó, xác thực dễ dàng. Cốt lõi là “ý định”. Họ đối phó với “những điều chưa biết”, như những người khởi nghiệp, chỉ huy đại diện, thiết lập hướng đi, cảm nhận độ lệch và liên tục điều chỉnh hướng đi.

Người dẫn chương trình: Những người trẻ vừa tốt nghiệp muốn bước vào thị trường lao động thì sao? Một bên là công việc đầu vào không có giá trị, một bên là cần 10 năm rèn giũa trong ngành mới trở thành chuyên gia hàng đầu, giữa hai bên có một khoảng cách lớn. AI có thể làm những việc đầu vào, vậy người trẻ làm thế nào để phát triển đến phía bên kia?

Christian: Khoảng cách thực sự tồn tại. Nhưng tin tốt là bạn có thể rút ngắn thời gian học tập. Bạn có thể bỏ qua các bước đào tạo truyền thống. Một kỹ sư mới vào nghề hiện tại có thể tự mình làm việc của một đội ngũ trước đây nhờ vào công cụ. Mặc dù lúc đầu có thể mắc lỗi, nhưng với tư cách là người mới, họ có thể đặt ra những câu hỏi theo cách hoàn toàn mới mẻ, đó chính là lợi thế. Họ có thể hiện thực hóa ý tưởng theo cách mà chúng ta lúc trẻ hoàn toàn không thể. Có cái lợi và cái hại.

Con đường trước đây: “Lấy bằng cấp, tìm thực tập, làm việc chăm chỉ để thăng tiến”, thực sự không còn tồn tại, điều này sẽ tạo ra một cú sốc văn hóa lớn. Đối với những người trẻ mới tốt nghiệp, điều này rất khó khăn. Nếu bạn vẫn đang học đại học, còn thời gian để nhìn rõ hướng đi. Nếu bạn đang gặp khó khăn, lời khuyên của tôi là: hãy tận dụng những công cụ này để tạo ra một số thứ. Tham vọng của bạn nên lớn gấp 100 lần so với những gì chúng ta đã có ở độ tuổi đó.

Người dẫn chương trình: Việc mất đi nhiều công việc “nhấn nút” trong ngắn hạn có thể khiến xã hội rơi vào hỗn loạn không?

Christian: Xã hội sẽ luôn tạo ra lại những công việc “nhấn nút” khi cần thiết để duy trì sự ổn định. Nhưng nhiều người làm những công việc này thực sự có khả năng làm nhiều hơn, chỉ là trước đây bị ràng buộc bởi môi trường. Khi lao động thể chất không còn cần thiết, chúng ta đã phát minh ra việc đến phòng tập; giờ đây, khi giải phóng lao động trí óc, mọi người sẽ phát triển nhiều nghề tay trái và kinh tế sáng tạo để tìm kiếm cảm giác thử thách. Đó cũng là lý do tại sao tôi nghĩ rằng “thu nhập cơ bản vô điều kiện (UBI)” hoàn toàn sai lầm, con người cần động lực để tìm kiếm ý nghĩa và tự hiện thực hóa. Hơn nữa, ngay cả khi bạn hiện có một phần lớn công việc bị tự động hóa thay thế, nếu bạn sử dụng tốt AI là công cụ siêu mạnh, một nhân viên mới vào nghề cũng có thể tạo ra năng suất tương đương với một đội ngũ trước đây.

Người dẫn chương trình: Bạn có lời khuyên gì cho các công ty và nhà đầu tư không?

Christian: Đối với các công ty, đầu tư vào cơ sở hạ tầng xác thực, cung cấp “trách nhiệm như một dịch vụ” (tức là không chỉ cung cấp đại diện mà còn bảo đảm cho hậu quả). Ngoài ra, nắm bắt “nguồn dữ liệu độc quyền”, vì AI dễ bị lừa dối, những công ty có thể cung cấp dữ liệu thực và đánh giá sâu như Bloomberg sẽ có giá trị rất lớn. Đối với các nhà đầu tư, bên cạnh việc đầu tư vào những thứ này, tập trung vào nghiên cứu phát triển “không thể đo lường” cốt lõi. Những hiệu ứng mạng thông thường trước đây có thể sẽ không còn hiệu lực, những hiệu ứng mạng mới sẽ được xây dựng dựa trên cách bạn làm cho đại diện của mình đáng tin cậy hơn thông qua phản hồi thực tế tốt hơn, vì những gì mọi người thực sự muốn mua là trí thông minh đã được xác thực.

Người dẫn chương trình: Công nghệ mã hóa có hữu ích trong quá trình xác thực này không?

Christian: Cơ sở hạ tầng nền tảng mà lĩnh vực mã hóa đã xây dựng trong 10 năm qua là rất quan trọng. Khi chúng ta cần xác định tính xác thực của danh tính và ngăn chặn tài khoản bị xâm nhập, các công nghệ trên chuỗi như “chứng minh nhân cách” có thể cung cấp xác thực mạnh mẽ. Còn về nguồn gốc dữ liệu và chuỗi quản lý mật mã, chúng ta cần có đảm bảo mật mã cứng rắn về việc thông tin được tạo ra và mô hình có tuân thủ hay không.

Người dẫn chương trình: Mọi người nên làm gì trong năm tới? Bạn có lạc quan về tương lai của con người không?

Christian: Trước tiên, đừng hoảng sợ. Hãy thử nghiệm nhiều, tận dụng công cụ để “loại bỏ” và tự động hóa bản thân hiện tại. Nhiều khám phá sở thích có thể sẽ là sự nghiệp có ý nghĩa nhất. Tệ nhất, bạn cũng có thể hiểu rõ ranh giới và điểm yếu của mô hình là ở đâu. Đối với nhiều nhà sáng tạo nội dung trên mạng, sở thích đã trở thành sự nghiệp, đây sẽ là xu hướng chính trong tương lai. Nếu bạn có con, khám phá tài năng của chúng và để chúng đắm chìm trong đam mê là điều quan trọng nhất. Không có mẫu chuyên nghiệp cố định nào, các công cụ AI mới sẽ giúp bạn tìm ra con đường chỉ thuộc về bạn.