Bos Anthropic Mahu Perlumbaan AI Diperlahankan — Mengapa Amaran Ini Serius?
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, berhujah bahawa dunia perlu mengawal kadar pembangunan dan penggunaan model AI paling berkuasa. Seruannya tertumpu pada lapisan frontier, bukan menghentikan penggunaan AI biasa di sekolah, pejabat atau perniagaan.
Apa maksud memperlahankan frontier?
Frontier merujuk kepada model paling maju yang boleh membuka keupayaan baharu dalam bidang seperti siber, biologi dan automasi kerja. Amodei mahu pembangun serta kerajaan mewujudkan masa untuk menguji, mengukur dan mengawal risiko sebelum keupayaan itu digunakan secara meluas.
Pendekatan ini berbeza daripada moratorium menyeluruh. Model yang sudah difahami masih boleh dimanfaatkan, sementara sistem yang melepasi tahap risiko tertentu menerima pemeriksaan dan perlindungan lebih ketat.
Mengapa amaran ini muncul sekarang?
Kos melatih model semakin besar, tetapi keupayaan baharu juga muncul dengan lebih pantas. Dalam perlumbaan komersial, syarikat boleh berasa terpaksa melancarkan produk lebih awal supaya tidak ketinggalan pesaing. Masalahnya, kesilapan pada model berkeupayaan tinggi boleh tersebar kepada berjuta-juta pengguna dengan cepat.
Amodei turut menekankan kesukaran koordinasi: syarikat yang bergerak berhati-hati mungkin kehilangan kelebihan jika pesaing tidak melakukan perkara sama. Sebab itu peraturan yang jelas dan seragam dilihat penting.
Apa kesannya kepada pengguna?
Dalam jangka pendek, pengguna mungkin melihat lebih banyak had penggunaan, penilaian identiti atau penolakan bagi tugasan berisiko tinggi. Dalam jangka panjang, kawalan yang baik boleh meningkatkan keyakinan bahawa ejen AI tidak diberi akses atau kuasa tanpa sempadan.
Perdebatan sebenar bukan sama ada AI berguna. Soalannya ialah bagaimana manfaat besar boleh diteruskan tanpa menjadikan kelajuan pelancaran sebagai satu-satunya ukuran kejayaan.
