Fokus:
① Waspadai perkembangan AI dan cegah AI lepas kendali, yang menjadi "kebenaran politik" di bidang sains dan teknologi di seluruh dunia;
② Mengenai masalah pencegahan ketat kepunahan manusia, banyak risiko seperti perang nuklir, perubahan iklim, penyebaran virus mematikan, dan penyalahgunaan bioteknologi harus didahulukan dari super AI;
③ AI dapat menyebabkan berbagai risiko sosial. Kalangan akademisi telah lama menunjukkan bahwa berbagai tindakan pencegahan juga telah diajukan. Masalah saat ini adalah menerapkan langkah-langkah tata kelola AI sesuai dengan kondisi nasional, bukan menunda penelitian dan pengembangan;
④ Jika tidak ada pengaturan kebijakan secara keseluruhan, ChatGPT pasti akan menyebabkan sejumlah besar "pengangguran AI", yang pada gilirannya akan menghambat penerapan ChatGPT lebih lanjut.
Penulis: Liu Yongmou, Profesor Sekolah Filsafat, Universitas Renmin China, Peneliti Akademi Pengembangan dan Strategi Nasional
Pada Maret 2023, ribuan ahli, termasuk Elon Musk, bersama-sama menandatangani surat terbuka yang menyerukan moratorium pelatihan model kecerdasan buatan (AI) tindak lanjut GPT-4 setidaknya selama 6 bulan. Segera setelah berita itu keluar, itu meledakkan jaringan dan media global, dan segera menarik tentangan dari Wu Enda dan "pakar AI" lainnya. Pada akhirnya, tidak ada informasi lebih lanjut mengenai hal ini, dan penangguhan GPT-4 ditengarai sebagai gelombang hype oleh OpenAI.
Pada bulan April, dilaporkan bahwa Italia akan sepenuhnya melarang ChatGPT, dan hasilnya adalah denda.
Pada bulan Mei, Presiden AS Biden dan Wakil Presiden Harris juga datang untuk ikut bersenang-senang dan mengadakan pertemuan dengan CEO perusahaan kecerdasan buatan terkemuka Alphabet, Microsoft, OpenAI dan Anthropic, perusahaan induk Google, untuk menekan perusahaan agar mengimplementasikan perlindungan seputar kecerdasan buatan, dengan mengatakan Dukung peraturan atau undang-undang baru untuk mengurangi potensi bahaya teknologi AI.
"Musk dan pacar AI-nya" dibuat oleh pengguna menggunakan alat AI generatif Sumber: Internet
Semuanya tampaknya akan segera hadir. Tampaknya kecerdasan buatan generatif (GAI, AI yang Dihasilkan) yang diwakili oleh ChatGPT, Midjourney, dan DALL-E 2 telah melahirkan risiko sosial baru dan lebih serius, membuat perkembangan masyarakat manusia dan penerapan Teknologi AI Situasi keseluruhan telah mengalami perubahan mendasar, dan strategi, tindakan, dan metode baru perlu diadopsi untuk menghadapinya, seperti penangguhan total penelitian dan pengembangan teknologi AI baru.
benarkah seperti ini? TIDAK.
Pertama, GAI tidak menimbulkan risiko baru, dan masalah yang ditimbulkannya sudah lama didiskusikan dan diserukan oleh kalangan akademisi. Kedua, tidak diperlukan metode baru untuk menghadapi risiko GAI Kunci untuk menghadapi risiko AI selalu implementasi.
Pada tanggal 11 April, Kantor Informasi Internet Republik Rakyat Tiongkok secara terbuka merilis "Langkah Manajemen Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)", menanggapi tata kelola GAI dengan kecepatan yang belum pernah terjadi sebelumnya, membuktikan bahwa penerapan GAI memiliki dampak sosial yang sangat besar. dampak, dan harus dipelajari dengan cermat dan dilaksanakan dengan hati-hati. Menanggapi dengan cepat.
01 Waspadai AI di luar kendali - "kebenaran politik" di bidang teknologi global
Masalah pengangguran, yaitu dapat menyebabkan banyaknya pengangguran pekerja mental seperti copywriting planner, original artist, industrial designer, programmer, praktisi media dan penerjemah.
Masalah pendidikan, yaitu dapat berdampak pada sistem pendidikan dan penelitian ilmiah yang ada, misalnya siswa dapat menggunakan ChatGPT daripada mengerjakan pekerjaan rumahnya.
Masalah keamanan informasi, yaitu GAI secara otomatis menghasilkan sejumlah besar konten produksi kecerdasan buatan (AIGC, AI Generated Content), yang sulit dibedakan antara keaslian dan kepalsuan, posisi yang mencurigakan, kepemilikan yang tidak jelas, dan akuntabilitas yang sulit. bahkan menjadi tantangan bagi pengarusutamaan nilai-nilai dan alat ideologi yang berbahaya.
Risiko AI telah lama dihargai oleh pemerintah berbagai negara, dan telah menjadi fokus perhatian seluruh masyarakat dalam beberapa tahun terakhir. Jelas, tiga dampak besar yang ditimbulkan oleh GAI tersebut di atas bukanlah masalah baru, dan telah menjadi perhatian dan dipelajari oleh kalangan akademisi dan pemerintah sejak ChatGPT meledak.
Dalam sepuluh tahun terakhir, dari Internet of Things hingga data besar, komputasi awan, blockchain, Metaverse, ChatGPT, di antara gelombang kebangkitan AI, tidak pernah ada kekurangan suara untuk memperhatikan risiko.
Saya secara profesional prihatin dengan dampak sosial dari teknologi baru, dan telah menghabiskan banyak energi untuk mengingatkan semua orang tentang risiko teknis yang dapat ditimbulkan oleh AI. Misalnya, ia telah menulis monograf "Teori Umum Tata Kelola Teknologi", "Internet of Things and the Coming of Ubiquitous Society", "Saya tidak punya obat untuk penyakit teknologi", "Metaverse Trap", "Empat belas Ceramah tentang Sains dan Teknologi dan Masyarakat", mengingatkan non-profesional TIK ( Dampak sosial dan risiko teknologi dari teknologi informasi dan komunikasi).
Dapat dikatakan bahwa mewaspadai perkembangan AI dan mencegah AI lepas kendali menjadi "kebenaran politik" di bidang sains dan teknologi di seluruh dunia. Di bawah atmosfer ini, suara-suara yang secara terbuka menyatakan bahwa "AI tidak memiliki area terlarang" sangat ditekan. Dalam hal ini, sebagai ahli teori seleksi kontrol teknologi, saya sepenuhnya setuju.
Sejauh menyangkut situasi perkembangan saat ini, risiko serius apa yang dimiliki ChatGPT yang harus ditangani dengan cara "kelebihan berat", seperti penangguhan setidaknya selama enam bulan?
Beberapa orang mengatakan bahwa ChatGPT adalah tanda munculnya super AI. Jika tidak dihentikan sekarang (catatan: ini bukan hanya penangguhan), begitu "Kotak Pandora" dibuka, manusia akan segera dikuasai atau bahkan punah. oleh AI super. Sulit bagi orang untuk menganggap serius ide-ide aneh seperti itu. Secara khusus, banyak profesional yang tidak menyadari bahwa ChatGPT adalah AI umum, apalagi prototipe AI super.
Super AI mungkin menjadi masalah, tetapi dalam hal mencegah kepunahan diri manusia, banyak risiko, seperti perang nuklir, perubahan iklim, penyebaran virus mematikan, dan penyalahgunaan bioteknologi, harus didahulukan dari super AI. Apakah kita menghentikan mereka semua terlebih dahulu? Kalaupun tidak bisa dihentikan, tidak apa-apa untuk dijeda, minimal bisa minta jeda.
Karena tidak ada yang baru, tidak perlu mengambil pendekatan drastis untuk menghentikan pembangunan, mengapa?
Pertama, penangguhan tidak dapat dibenarkan. Beberapa orang mengatakan bahwa tindakan respons risiko ChatGPT belum dipikirkan secara matang, sehingga ditangguhkan terlebih dahulu. salah! Bukannya saya tidak berpikir jernih, tetapi saya tidak menerapkannya pada tempatnya.
Kedua, moratorium tidak mungkin benar-benar tercapai, dan pasti akan ada perusahaan AI yang melanggar larangan tersebut, dan akibatnya adalah persaingan tidak sehat.
Ketiga, penangguhan tidak akan menyelesaikan masalah. Bahkan jika semua perusahaan AI benar-benar menangguhkan penelitian GAI, akankah masalah risiko teratasi? TIDAK! Kecuali jika LLM (Model Bahasa Besar, model bahasa besar) benar-benar dihentikan dan dilarang, risikonya tidak akan hilang. Saat memulai ulang, Anda tetap harus menghadapi risikonya secara langsung.
Saat ini, teknologi baru adalah alat terpenting untuk kelangsungan hidup dan perkembangan manusia yang tidak dapat ditinggalkan. Peran GAI dalam mempromosikan produktivitas sosial telah terungkap dengan jelas, mengapa kita harus berhenti makan karena tersedak, dan mengapa kita tidak dapat menggunakannya secara terkendali?
Pada abad ke-20, beberapa orang berpendapat bahwa teknologi pada saat itu sudah cukup untuk manusia, dan perkembangan yang terus berlanjut akan menimbulkan banyak masalah baru, teknologi harus dihentikan, dan para ilmuwan harus berhenti melakukan penelitian. Gagasan yang sangat irasional seperti itu tidak pernah dianggap serius oleh masyarakat.
02 Menangguhkan penelitian dan pengembangan GAI tidak dapat diwujudkan, itu murni "senjata mulut" yang tidak valid
AI dapat menimbulkan berbagai risiko sosial, kalangan akademisi telah lama menunjukkan bahwa berbagai penanggulangan juga telah dikedepankan. Oleh karena itu, pertanyaannya sekarang adalah menerapkan langkah-langkah tata kelola AI sesuai dengan kondisi nasional, bukan menangguhkan penelitian dan pengembangan AI. Fakta telah membuktikan bahwa ide penangguhan penelitian dan pengembangan GAI adalah sederhana dan kasar, dengan efek yang kecil dan tidak mungkin diwujudkan, itu murni "berbicara" yang tidak valid.
Ambil masalah pengangguran AI sebagai contoh. Masalah pengangguran AI, yaitu kemajuan kecerdasan buatan yang disertai dengan semakin banyak orang kehilangan pekerjaan, merupakan masalah terbesar dalam dampak sosial AI, dan melibatkan inovasi kelembagaan yang komprehensif dari seluruh masyarakat. Literatur yang ada membahas masalah pengangguran AI, yang dapat digambarkan sebagai luar biasa, dan ada banyak penanggulangan khusus, seperti perencanaan karir siswa, peningkatan literasi AI pekerja, jaminan sosial dan pekerjaan kembali pengangguran, peningkatan dan transformasi pekerjaan. struktur industri, dll.
Perencanaan strategis jangka panjang juga mengesankan, seperti pengurangan jam kerja pekerja secara sistematis (beberapa tempat sudah mencoba bekerja 4 hari seminggu), mengumpulkan pajak AI (AI adalah kristalisasi kecerdasan manusia, dan perusahaan AI dikenakan pajak yang tinggi bagi semua orang untuk berbagi), sistem pensiun fleksibel (pekerja dapat pensiun sebentar beberapa kali seumur hidup mereka), dll.
Dampak terbesar penerapan AI pada aktivitas tata kelola kontemporer terletak pada: memperluas kebebasan ekonomi, meningkatkan waktu senggang, sangat mengubah prasyarat untuk tata kelola publik, dan dengan demikian mengubah penampilan mendasar dari operasi sosial. Namun, dampak ini juga berarti bahwa "masalah pengangguran AI" menjadi semakin serius, yang menimbulkan tantangan serius bagi aktivitas pemerintahan seluruh masyarakat dan harus ditangani dengan hati-hati. Industrialisasi AIGC sekali lagi akan membuktikan keseriusan masalah pengangguran AI. Jika tidak ada pengaturan kebijakan secara keseluruhan, ChatGPT pasti akan menyebabkan sejumlah besar "pengangguran AI", yang pada gilirannya akan menghambat penerapan ChatGPT lebih lanjut.
Komik: Robot mengambil alih tugas berulang seperti pembuatan dan pengemasan Sumber: TC
Solusi untuk "masalah pengangguran AI" harus mempertimbangkan perspektif dan realitas.
Dari perspektif jangka panjang, solusi untuk "masalah pengangguran AI" melibatkan perubahan mendasar dalam sistem sosial manusia, dan tidak dapat diselesaikan hanya dengan pengembangan teknologi cerdas dan tata kelola cerdas. Menurut prinsip dasar Marxisme, "masalah pengangguran AI" mencerminkan kontradiksi antara perkembangan produktivitas ilmu pengetahuan dan teknologi dan hubungan produksi yang ada. Kemampuan robot menggantikan tenaga manusia bukan berarti benar-benar menggantikan tenaga manusia, karena penggantian tersebut berarti meniadakan sistem eksploitatif di mana segelintir orang memaksa mayoritas orang untuk bekerja melalui pengaturan kelembagaan. Intinya, untuk mengatasi "masalah pengangguran AI", kita harus terus menerus mengurangi jam kerja buruh, memberi lebih banyak waktu luang kepada orang-orang, dan pada akhirnya harus sepenuhnya menghilangkan sistem eksploitasi. Sejarah perburuhan abad ke-20 menunjukkan bahwa penerapan teknologi modern dalam produksi terus mengurangi total waktu kerja yang diperlukan masyarakat, dan mempromosikan penerapan "sistem kerja delapan jam" dan "sistem akhir pekan" oleh semakin banyak negara. .
Dari segi realitas, evolusi sistem sosial membutuhkan waktu lama, dan harus maju secara bertahap dan mantap, serta harus menunggu perkembangan teknologi cerdas yang berkelanjutan.Oleh karena itu, masalah yang paling mendesak adalah mencari pekerjaan baru bagi buruh yang terkena dampak kecerdasan buatan, dan memastikan bahwa Mereka dapat menikmati kekayaan materi yang diciptakan oleh kemajuan teknologi.
Oleh karena itu, di awal merebaknya industrialisasi AIGC, negara, pemerintah, dan masyarakat harus melakukan penelitian mendalam, membuat rencana menyeluruh, dan secara aktif merespons tekanan pengangguran dan lapangan kerja yang mungkin muncul.
Misalnya, meningkatkan asuransi pengangguran dan menyediakan layanan pelatihan ketenagakerjaan, memperkuat perencanaan karir dan peningkatan kualitas kreatif bagi kaum muda, menyesuaikan arah talenta sekolah, terutama di bidang humaniora, seni, dan disiplin ilmu lainnya, serta mempromosikan peningkatan industri secara tidak tepat untuk menciptakan lapangan kerja baru. Singkatnya, dalam menghadapi risiko pengangguran yang mungkin menyertai AI, kita harus melepaskan pemikiran ekstrim salah-atau, mencoba menghindarinya, dan menyesuaikannya secara real time.
**03 Bagaimana AI China diatur? **
Membangun China digital adalah mesin penting untuk mempromosikan modernisasi gaya China di era digital, dan merupakan dukungan kuat untuk membangun keunggulan baru dalam kompetisi nasional.
Dalam pembangunan Cina digital, perlu untuk mempromosikan tata kelola AI yang "berpusat pada manusia" sehingga AI dapat benar-benar bermanfaat bagi masyarakat. Untuk tujuan ini, pertama-tama kita harus menyerukan kepada seluruh masyarakat untuk memperhatikan masalah risiko AI Pemerintah, perusahaan, LSM, kalangan ilmiah dan teknologi, dan masyarakat, sesuai dengan pembagian tanggung jawab, meningkatkan kebijakan dan tindakan, memperkuat integrasi sumber daya dan kekuatan koordinasi, dan membentuk kekuatan aksi bersama untuk mengendalikan risiko AI Program-program tersebut benar-benar dilaksanakan.
Selain itu, saran berprinsip berikut juga dapat dipertimbangkan dalam tata kelola risiko AI:
Pertama, menerapkan prinsip alat terbatas. Kita harus memiliki pemahaman yang jelas tentang peran tata kelola cerdas - tata kelola cerdas bukanlah "senjata sempurna" obat mujarab, dalam banyak kasus itu juga akan "gagal", dan bahkan berlawanan dengan menghambat efisiensi sosial. Oleh karena itu, perlu untuk mengenali peran teknologi cerdas dalam meningkatkan efisiensi tata kelola di bidang tertentu, masalah tertentu, dan kesempatan tertentu, dan mengutamakan sarana tata kelola teknis untuk menyelesaikan masalah, dengan tetap mengingat peran teknologi cerdas yang terbatas. . Patuhi kerendahan hati sains dan teknologi, waspadai "takhayul data besar", adopsi sikap peninjauan konteks spesifik dan analisis spesifik, dan perhatikan umpan balik efek aktual dan pengendalian risiko aktivitas tata kelola.
Kedua, bersikeras pada penekanan yang sama pada pemanfaatan dan kontrol. Penting untuk memainkan peran tata kelola cerdas, tetapi juga untuk mengontrol tata kelola cerdas khusus untuk mencegah kekuatan platform cerdas dan pakar tata kelola teknis lepas kendali. Pada saat yang sama, metode kelembagaan-teknis harus digunakan untuk menghindari risiko sosial yang mungkin disebabkan oleh tata kelola yang cerdas.
Ketiga, tangani "masalah pengangguran AI" dengan benar. Dampak terbesar dari penerapan teknologi cerdas pada aktivitas tata kelola kontemporer terletak pada: memperluas kebebasan ekonomi, meningkatkan waktu senggang, sangat mengubah prasyarat untuk tata kelola publik, dan dengan demikian mengubah penampilan mendasar dari operasi sosial. Namun, dampak ini juga berarti bahwa "masalah pengangguran AI" menjadi semakin serius, yang menimbulkan tantangan serius bagi aktivitas pemerintahan seluruh masyarakat, menarik perhatian seluruh masyarakat, dan harus ditangani dengan hati-hati.
Keempat, mengintegrasikan secara erat pembangunan "kota pintar" dan "desa digital". Menjalankan kota secara ilmiah adalah langkah strategis yang penting untuk tata kelola teknologi kontemporer, dan kota pintar adalah bentuk lanjutan dari kota ilmiah. Karena manusia saat ini sebagian besar tinggal di kota, terutama kota besar dan super besar, tata kelola cerdas saat ini terutama dipromosikan seputar pembangunan "kota pintar", atau pembangunan "kota pintar" sebagai pembawa utama. Secara khusus, pembangunan Cina digital tidak dapat mengabaikan pembangunan desa digital, dan upaya harus dilakukan untuk mempersempit kesenjangan antara perkotaan dan pedesaan melalui digitalisasi.
Kelima, perhatikan integrasi teknologi cerdas dan manusia. Dalam kegiatan tata kelola teknologi, semakin baik kombinasi teknologi dan manusia, semakin tinggi efisiensi tata kelola. Untuk memperkuat integrasi faktor manusia dan teknis dalam kegiatan tata kelola cerdas, perlu untuk secara sistematis merefleksikan karakteristik berbagai teknologi cerdas dan etika terkait, hukum, psikologi, manajemen krisis, dll., Untuk mempromosikan konstruksi sistem, penelitian dan pengembangan teknologi , dan cadangan bakat, dan untuk memperkuat kepemimpinan organisasi. , konsultasi ahli dan latihan tempur yang sebenarnya, dan secara terus menerus dan sistematis meningkatkan kemampuan tata kelola cerdas China.
Keenam, membedakan tata kelola dari manipulasi dalam konteks tertentu. Ada batasan dalam pemerintahan yang cerdas, dan jika melebihi batas itu menjadi manipulasi yang cerdas dan melanggar hak-hak dasar warga negara. Pengembangan tata kelola yang cerdas di masa depan harus secara khusus mempertimbangkan batasan berbagai aplikasi. Ini tidak hanya melibatkan tujuan tata kelola, tetapi juga sarana yang digunakan. Itu hanya dapat ditinjau dengan tenang, objektif, dan hati-hati dalam konteks sosial tertentu. Untuk mencegah tata kelola cerdas bergerak menuju manipulasi cerdas, masalah yang sangat penting adalah bahwa perilaku anti-pemerintahan dari tata kelola cerdas harus ditoleransi sampai batas tertentu.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Apakah Musk menyerukan moratorium pengembangan AI menjadi "semburan"?
Penulis: Liu Yongmou, Profesor Sekolah Filsafat, Universitas Renmin China, Peneliti Akademi Pengembangan dan Strategi Nasional
Pada Maret 2023, ribuan ahli, termasuk Elon Musk, bersama-sama menandatangani surat terbuka yang menyerukan moratorium pelatihan model kecerdasan buatan (AI) tindak lanjut GPT-4 setidaknya selama 6 bulan. Segera setelah berita itu keluar, itu meledakkan jaringan dan media global, dan segera menarik tentangan dari Wu Enda dan "pakar AI" lainnya. Pada akhirnya, tidak ada informasi lebih lanjut mengenai hal ini, dan penangguhan GPT-4 ditengarai sebagai gelombang hype oleh OpenAI.
Pada bulan April, dilaporkan bahwa Italia akan sepenuhnya melarang ChatGPT, dan hasilnya adalah denda.
Pada bulan Mei, Presiden AS Biden dan Wakil Presiden Harris juga datang untuk ikut bersenang-senang dan mengadakan pertemuan dengan CEO perusahaan kecerdasan buatan terkemuka Alphabet, Microsoft, OpenAI dan Anthropic, perusahaan induk Google, untuk menekan perusahaan agar mengimplementasikan perlindungan seputar kecerdasan buatan, dengan mengatakan Dukung peraturan atau undang-undang baru untuk mengurangi potensi bahaya teknologi AI.
Semuanya tampaknya akan segera hadir. Tampaknya kecerdasan buatan generatif (GAI, AI yang Dihasilkan) yang diwakili oleh ChatGPT, Midjourney, dan DALL-E 2 telah melahirkan risiko sosial baru dan lebih serius, membuat perkembangan masyarakat manusia dan penerapan Teknologi AI Situasi keseluruhan telah mengalami perubahan mendasar, dan strategi, tindakan, dan metode baru perlu diadopsi untuk menghadapinya, seperti penangguhan total penelitian dan pengembangan teknologi AI baru.
benarkah seperti ini? TIDAK.
Pertama, GAI tidak menimbulkan risiko baru, dan masalah yang ditimbulkannya sudah lama didiskusikan dan diserukan oleh kalangan akademisi. Kedua, tidak diperlukan metode baru untuk menghadapi risiko GAI Kunci untuk menghadapi risiko AI selalu implementasi.
Pada tanggal 11 April, Kantor Informasi Internet Republik Rakyat Tiongkok secara terbuka merilis "Langkah Manajemen Layanan Kecerdasan Buatan Generatif (Draf untuk Komentar)", menanggapi tata kelola GAI dengan kecepatan yang belum pernah terjadi sebelumnya, membuktikan bahwa penerapan GAI memiliki dampak sosial yang sangat besar. dampak, dan harus dipelajari dengan cermat dan dilaksanakan dengan hati-hati. Menanggapi dengan cepat.
01 Waspadai AI di luar kendali - "kebenaran politik" di bidang teknologi global
Masalah pengangguran, yaitu dapat menyebabkan banyaknya pengangguran pekerja mental seperti copywriting planner, original artist, industrial designer, programmer, praktisi media dan penerjemah.
Masalah pendidikan, yaitu dapat berdampak pada sistem pendidikan dan penelitian ilmiah yang ada, misalnya siswa dapat menggunakan ChatGPT daripada mengerjakan pekerjaan rumahnya.
Masalah keamanan informasi, yaitu GAI secara otomatis menghasilkan sejumlah besar konten produksi kecerdasan buatan (AIGC, AI Generated Content), yang sulit dibedakan antara keaslian dan kepalsuan, posisi yang mencurigakan, kepemilikan yang tidak jelas, dan akuntabilitas yang sulit. bahkan menjadi tantangan bagi pengarusutamaan nilai-nilai dan alat ideologi yang berbahaya.
Risiko AI telah lama dihargai oleh pemerintah berbagai negara, dan telah menjadi fokus perhatian seluruh masyarakat dalam beberapa tahun terakhir. Jelas, tiga dampak besar yang ditimbulkan oleh GAI tersebut di atas bukanlah masalah baru, dan telah menjadi perhatian dan dipelajari oleh kalangan akademisi dan pemerintah sejak ChatGPT meledak.
Dalam sepuluh tahun terakhir, dari Internet of Things hingga data besar, komputasi awan, blockchain, Metaverse, ChatGPT, di antara gelombang kebangkitan AI, tidak pernah ada kekurangan suara untuk memperhatikan risiko.
Saya secara profesional prihatin dengan dampak sosial dari teknologi baru, dan telah menghabiskan banyak energi untuk mengingatkan semua orang tentang risiko teknis yang dapat ditimbulkan oleh AI. Misalnya, ia telah menulis monograf "Teori Umum Tata Kelola Teknologi", "Internet of Things and the Coming of Ubiquitous Society", "Saya tidak punya obat untuk penyakit teknologi", "Metaverse Trap", "Empat belas Ceramah tentang Sains dan Teknologi dan Masyarakat", mengingatkan non-profesional TIK ( Dampak sosial dan risiko teknologi dari teknologi informasi dan komunikasi).
Dapat dikatakan bahwa mewaspadai perkembangan AI dan mencegah AI lepas kendali menjadi "kebenaran politik" di bidang sains dan teknologi di seluruh dunia. Di bawah atmosfer ini, suara-suara yang secara terbuka menyatakan bahwa "AI tidak memiliki area terlarang" sangat ditekan. Dalam hal ini, sebagai ahli teori seleksi kontrol teknologi, saya sepenuhnya setuju.
Sejauh menyangkut situasi perkembangan saat ini, risiko serius apa yang dimiliki ChatGPT yang harus ditangani dengan cara "kelebihan berat", seperti penangguhan setidaknya selama enam bulan?
Beberapa orang mengatakan bahwa ChatGPT adalah tanda munculnya super AI. Jika tidak dihentikan sekarang (catatan: ini bukan hanya penangguhan), begitu "Kotak Pandora" dibuka, manusia akan segera dikuasai atau bahkan punah. oleh AI super. Sulit bagi orang untuk menganggap serius ide-ide aneh seperti itu. Secara khusus, banyak profesional yang tidak menyadari bahwa ChatGPT adalah AI umum, apalagi prototipe AI super.
Super AI mungkin menjadi masalah, tetapi dalam hal mencegah kepunahan diri manusia, banyak risiko, seperti perang nuklir, perubahan iklim, penyebaran virus mematikan, dan penyalahgunaan bioteknologi, harus didahulukan dari super AI. Apakah kita menghentikan mereka semua terlebih dahulu? Kalaupun tidak bisa dihentikan, tidak apa-apa untuk dijeda, minimal bisa minta jeda.
Karena tidak ada yang baru, tidak perlu mengambil pendekatan drastis untuk menghentikan pembangunan, mengapa?
Pertama, penangguhan tidak dapat dibenarkan. Beberapa orang mengatakan bahwa tindakan respons risiko ChatGPT belum dipikirkan secara matang, sehingga ditangguhkan terlebih dahulu. salah! Bukannya saya tidak berpikir jernih, tetapi saya tidak menerapkannya pada tempatnya.
Kedua, moratorium tidak mungkin benar-benar tercapai, dan pasti akan ada perusahaan AI yang melanggar larangan tersebut, dan akibatnya adalah persaingan tidak sehat.
Ketiga, penangguhan tidak akan menyelesaikan masalah. Bahkan jika semua perusahaan AI benar-benar menangguhkan penelitian GAI, akankah masalah risiko teratasi? TIDAK! Kecuali jika LLM (Model Bahasa Besar, model bahasa besar) benar-benar dihentikan dan dilarang, risikonya tidak akan hilang. Saat memulai ulang, Anda tetap harus menghadapi risikonya secara langsung.
Saat ini, teknologi baru adalah alat terpenting untuk kelangsungan hidup dan perkembangan manusia yang tidak dapat ditinggalkan. Peran GAI dalam mempromosikan produktivitas sosial telah terungkap dengan jelas, mengapa kita harus berhenti makan karena tersedak, dan mengapa kita tidak dapat menggunakannya secara terkendali?
Pada abad ke-20, beberapa orang berpendapat bahwa teknologi pada saat itu sudah cukup untuk manusia, dan perkembangan yang terus berlanjut akan menimbulkan banyak masalah baru, teknologi harus dihentikan, dan para ilmuwan harus berhenti melakukan penelitian. Gagasan yang sangat irasional seperti itu tidak pernah dianggap serius oleh masyarakat.
02 Menangguhkan penelitian dan pengembangan GAI tidak dapat diwujudkan, itu murni "senjata mulut" yang tidak valid
AI dapat menimbulkan berbagai risiko sosial, kalangan akademisi telah lama menunjukkan bahwa berbagai penanggulangan juga telah dikedepankan. Oleh karena itu, pertanyaannya sekarang adalah menerapkan langkah-langkah tata kelola AI sesuai dengan kondisi nasional, bukan menangguhkan penelitian dan pengembangan AI. Fakta telah membuktikan bahwa ide penangguhan penelitian dan pengembangan GAI adalah sederhana dan kasar, dengan efek yang kecil dan tidak mungkin diwujudkan, itu murni "berbicara" yang tidak valid.
Ambil masalah pengangguran AI sebagai contoh. Masalah pengangguran AI, yaitu kemajuan kecerdasan buatan yang disertai dengan semakin banyak orang kehilangan pekerjaan, merupakan masalah terbesar dalam dampak sosial AI, dan melibatkan inovasi kelembagaan yang komprehensif dari seluruh masyarakat. Literatur yang ada membahas masalah pengangguran AI, yang dapat digambarkan sebagai luar biasa, dan ada banyak penanggulangan khusus, seperti perencanaan karir siswa, peningkatan literasi AI pekerja, jaminan sosial dan pekerjaan kembali pengangguran, peningkatan dan transformasi pekerjaan. struktur industri, dll.
Perencanaan strategis jangka panjang juga mengesankan, seperti pengurangan jam kerja pekerja secara sistematis (beberapa tempat sudah mencoba bekerja 4 hari seminggu), mengumpulkan pajak AI (AI adalah kristalisasi kecerdasan manusia, dan perusahaan AI dikenakan pajak yang tinggi bagi semua orang untuk berbagi), sistem pensiun fleksibel (pekerja dapat pensiun sebentar beberapa kali seumur hidup mereka), dll.
Dampak terbesar penerapan AI pada aktivitas tata kelola kontemporer terletak pada: memperluas kebebasan ekonomi, meningkatkan waktu senggang, sangat mengubah prasyarat untuk tata kelola publik, dan dengan demikian mengubah penampilan mendasar dari operasi sosial. Namun, dampak ini juga berarti bahwa "masalah pengangguran AI" menjadi semakin serius, yang menimbulkan tantangan serius bagi aktivitas pemerintahan seluruh masyarakat dan harus ditangani dengan hati-hati. Industrialisasi AIGC sekali lagi akan membuktikan keseriusan masalah pengangguran AI. Jika tidak ada pengaturan kebijakan secara keseluruhan, ChatGPT pasti akan menyebabkan sejumlah besar "pengangguran AI", yang pada gilirannya akan menghambat penerapan ChatGPT lebih lanjut.
Solusi untuk "masalah pengangguran AI" harus mempertimbangkan perspektif dan realitas.
Dari perspektif jangka panjang, solusi untuk "masalah pengangguran AI" melibatkan perubahan mendasar dalam sistem sosial manusia, dan tidak dapat diselesaikan hanya dengan pengembangan teknologi cerdas dan tata kelola cerdas. Menurut prinsip dasar Marxisme, "masalah pengangguran AI" mencerminkan kontradiksi antara perkembangan produktivitas ilmu pengetahuan dan teknologi dan hubungan produksi yang ada. Kemampuan robot menggantikan tenaga manusia bukan berarti benar-benar menggantikan tenaga manusia, karena penggantian tersebut berarti meniadakan sistem eksploitatif di mana segelintir orang memaksa mayoritas orang untuk bekerja melalui pengaturan kelembagaan. Intinya, untuk mengatasi "masalah pengangguran AI", kita harus terus menerus mengurangi jam kerja buruh, memberi lebih banyak waktu luang kepada orang-orang, dan pada akhirnya harus sepenuhnya menghilangkan sistem eksploitasi. Sejarah perburuhan abad ke-20 menunjukkan bahwa penerapan teknologi modern dalam produksi terus mengurangi total waktu kerja yang diperlukan masyarakat, dan mempromosikan penerapan "sistem kerja delapan jam" dan "sistem akhir pekan" oleh semakin banyak negara. .
Dari segi realitas, evolusi sistem sosial membutuhkan waktu lama, dan harus maju secara bertahap dan mantap, serta harus menunggu perkembangan teknologi cerdas yang berkelanjutan.Oleh karena itu, masalah yang paling mendesak adalah mencari pekerjaan baru bagi buruh yang terkena dampak kecerdasan buatan, dan memastikan bahwa Mereka dapat menikmati kekayaan materi yang diciptakan oleh kemajuan teknologi.
Oleh karena itu, di awal merebaknya industrialisasi AIGC, negara, pemerintah, dan masyarakat harus melakukan penelitian mendalam, membuat rencana menyeluruh, dan secara aktif merespons tekanan pengangguran dan lapangan kerja yang mungkin muncul.
Misalnya, meningkatkan asuransi pengangguran dan menyediakan layanan pelatihan ketenagakerjaan, memperkuat perencanaan karir dan peningkatan kualitas kreatif bagi kaum muda, menyesuaikan arah talenta sekolah, terutama di bidang humaniora, seni, dan disiplin ilmu lainnya, serta mempromosikan peningkatan industri secara tidak tepat untuk menciptakan lapangan kerja baru. Singkatnya, dalam menghadapi risiko pengangguran yang mungkin menyertai AI, kita harus melepaskan pemikiran ekstrim salah-atau, mencoba menghindarinya, dan menyesuaikannya secara real time.
**03 Bagaimana AI China diatur? **
Membangun China digital adalah mesin penting untuk mempromosikan modernisasi gaya China di era digital, dan merupakan dukungan kuat untuk membangun keunggulan baru dalam kompetisi nasional.
Dalam pembangunan Cina digital, perlu untuk mempromosikan tata kelola AI yang "berpusat pada manusia" sehingga AI dapat benar-benar bermanfaat bagi masyarakat. Untuk tujuan ini, pertama-tama kita harus menyerukan kepada seluruh masyarakat untuk memperhatikan masalah risiko AI Pemerintah, perusahaan, LSM, kalangan ilmiah dan teknologi, dan masyarakat, sesuai dengan pembagian tanggung jawab, meningkatkan kebijakan dan tindakan, memperkuat integrasi sumber daya dan kekuatan koordinasi, dan membentuk kekuatan aksi bersama untuk mengendalikan risiko AI Program-program tersebut benar-benar dilaksanakan.
Selain itu, saran berprinsip berikut juga dapat dipertimbangkan dalam tata kelola risiko AI:
Pertama, menerapkan prinsip alat terbatas. Kita harus memiliki pemahaman yang jelas tentang peran tata kelola cerdas - tata kelola cerdas bukanlah "senjata sempurna" obat mujarab, dalam banyak kasus itu juga akan "gagal", dan bahkan berlawanan dengan menghambat efisiensi sosial. Oleh karena itu, perlu untuk mengenali peran teknologi cerdas dalam meningkatkan efisiensi tata kelola di bidang tertentu, masalah tertentu, dan kesempatan tertentu, dan mengutamakan sarana tata kelola teknis untuk menyelesaikan masalah, dengan tetap mengingat peran teknologi cerdas yang terbatas. . Patuhi kerendahan hati sains dan teknologi, waspadai "takhayul data besar", adopsi sikap peninjauan konteks spesifik dan analisis spesifik, dan perhatikan umpan balik efek aktual dan pengendalian risiko aktivitas tata kelola.
Kedua, bersikeras pada penekanan yang sama pada pemanfaatan dan kontrol. Penting untuk memainkan peran tata kelola cerdas, tetapi juga untuk mengontrol tata kelola cerdas khusus untuk mencegah kekuatan platform cerdas dan pakar tata kelola teknis lepas kendali. Pada saat yang sama, metode kelembagaan-teknis harus digunakan untuk menghindari risiko sosial yang mungkin disebabkan oleh tata kelola yang cerdas.
Ketiga, tangani "masalah pengangguran AI" dengan benar. Dampak terbesar dari penerapan teknologi cerdas pada aktivitas tata kelola kontemporer terletak pada: memperluas kebebasan ekonomi, meningkatkan waktu senggang, sangat mengubah prasyarat untuk tata kelola publik, dan dengan demikian mengubah penampilan mendasar dari operasi sosial. Namun, dampak ini juga berarti bahwa "masalah pengangguran AI" menjadi semakin serius, yang menimbulkan tantangan serius bagi aktivitas pemerintahan seluruh masyarakat, menarik perhatian seluruh masyarakat, dan harus ditangani dengan hati-hati.
Keempat, mengintegrasikan secara erat pembangunan "kota pintar" dan "desa digital". Menjalankan kota secara ilmiah adalah langkah strategis yang penting untuk tata kelola teknologi kontemporer, dan kota pintar adalah bentuk lanjutan dari kota ilmiah. Karena manusia saat ini sebagian besar tinggal di kota, terutama kota besar dan super besar, tata kelola cerdas saat ini terutama dipromosikan seputar pembangunan "kota pintar", atau pembangunan "kota pintar" sebagai pembawa utama. Secara khusus, pembangunan Cina digital tidak dapat mengabaikan pembangunan desa digital, dan upaya harus dilakukan untuk mempersempit kesenjangan antara perkotaan dan pedesaan melalui digitalisasi.
Kelima, perhatikan integrasi teknologi cerdas dan manusia. Dalam kegiatan tata kelola teknologi, semakin baik kombinasi teknologi dan manusia, semakin tinggi efisiensi tata kelola. Untuk memperkuat integrasi faktor manusia dan teknis dalam kegiatan tata kelola cerdas, perlu untuk secara sistematis merefleksikan karakteristik berbagai teknologi cerdas dan etika terkait, hukum, psikologi, manajemen krisis, dll., Untuk mempromosikan konstruksi sistem, penelitian dan pengembangan teknologi , dan cadangan bakat, dan untuk memperkuat kepemimpinan organisasi. , konsultasi ahli dan latihan tempur yang sebenarnya, dan secara terus menerus dan sistematis meningkatkan kemampuan tata kelola cerdas China.
Keenam, membedakan tata kelola dari manipulasi dalam konteks tertentu. Ada batasan dalam pemerintahan yang cerdas, dan jika melebihi batas itu menjadi manipulasi yang cerdas dan melanggar hak-hak dasar warga negara. Pengembangan tata kelola yang cerdas di masa depan harus secara khusus mempertimbangkan batasan berbagai aplikasi. Ini tidak hanya melibatkan tujuan tata kelola, tetapi juga sarana yang digunakan. Itu hanya dapat ditinjau dengan tenang, objektif, dan hati-hati dalam konteks sosial tertentu. Untuk mencegah tata kelola cerdas bergerak menuju manipulasi cerdas, masalah yang sangat penting adalah bahwa perilaku anti-pemerintahan dari tata kelola cerdas harus ditoleransi sampai batas tertentu.