“Kerusakan yang berarti” dari AI diperlukan sebelum regulasi, kata eksekutif Microsoft

Saat anggota parlemen di seluruh dunia berupaya untuk memahami cara mengatur teknologi AI yang berkembang pesat, kepala ekonom Microsoft Michael Schwarz mengatakan kepada peserta KTT Pertumbuhan Discussion board Ekonomi Dunia hari ini bahwa “kita tidak boleh mengatur AI sampai kita melihat beberapa bahaya yang berarti yang benar-benar terjadi, bukan khayalan skenario.”

Komentar tersebut muncul sekitar 45 menit dalam sebuah panel yang disebut “Development Hotspots: Harnessing the Generative AI Revolution.” Bereaksi, pembicara unggulan lainnya, pembawa acara CNN Zain Asher, menghentikan Schwarz untuk bertanya, “Tunggu, kita harus menunggu sampai kita melihat bahaya sebelum kita mengaturnya?”

“Saya akan mengatakan ya,” kata Schwarz, menyamakan pengaturan AI sebelum “sedikit bahaya” disebabkan oleh pengesahan undang-undang SIM sebelum orang meninggal dalam kecelakaan mobil.

“Pertama kali kami mulai membutuhkan surat izin mengemudi, setelah puluhan orang meninggal dalam kecelakaan mobil, bukan?” kata Schwartz. “Dan itu adalah hal yang benar,” karena “jika Anda memerlukan surat izin mengemudi ketika ada dua mobil pertama di jalan,” maka “kami akan benar-benar mengacaukan peraturan itu.”

Tampaknya, dalam pandangan Schwarz, biaya regulasi—mungkin hilangnya inovasi—seharusnya tidak melebihi manfaatnya.

“Setidaknya harus ada sedikit kerugian, sehingga kita bisa melihat apa masalah sebenarnya,” jelas Schwarz. “Apakah ada masalah nyata? Apakah ada yang menderita kerusakan setidaknya senilai seribu dolar karena itu? Haruskah kita terjun untuk mengatur sesuatu di planet berpenduduk 8 miliar orang ketika bahkan tidak ada kerusakan seribu dolar? Tentu saja bukan.”

Pembuat undang-undang berlomba untuk menyusun peraturan AI yang mengakui bahaya tetapi tidak mengancam kemajuan AI. Tahun lalu, Komisi Perdagangan Federal AS (FTC) memperingatkan Kongres bahwa anggota parlemen harus “sangat berhati-hati” saat menyusun solusi kebijakan AI. FTC menganggap bahaya sebagai contoh di mana “alat AI bisa tidak akurat, bias, dan diskriminatif berdasarkan desain dan memberi insentif dengan mengandalkan bentuk pengawasan komersial yang semakin invasif.” Baru-baru ini, Gedung Putih merilis cetak biru untuk AI Invoice of Rights, menggambarkan beberapa hasil penggunaan AI sebagai “sangat berbahaya”, tetapi “tidak bisa dihindari”.

Untuk memastikan bahwa bahaya yang dapat dicegah dihindari, pemerintahan Biden memberikan panduan untuk menghentikan sistem otomatis agar tidak berdampak berarti pada “hak, peluang, atau akses publik ke kebutuhan kritis”. Baru hari ini, anggota parlemen Eropa setuju untuk menyusun aturan AI yang lebih ketat dalam apa yang bisa menjadi undang-undang AI komprehensif pertama di dunia, lapor Reuters. Aturan ini akan mengklasifikasikan alat AI berdasarkan tingkat risiko, sehingga negara dapat melindungi hak-hak sipil tanpa merusak inovasi dan kemajuan AI yang penting.

Schwarz tampaknya mengabaikan desakan terburu-buru anggota parlemen untuk mencegah pelanggaran terhadap hak-hak sipil, sebaliknya, menyarankan bahwa mencegah kerugian moneter harus menjadi tujuan peraturan dan tampaknya hal itu belum diperlukan.

“Anda tidak menerapkan peraturan untuk mencegah kerugian senilai seribu dolar, di mana peraturan yang sama mencegah manfaat senilai satu juta dolar bagi orang-orang di seluruh dunia,” kata Schwarz.

Tentu saja, sudah ada tuntutan hukum yang meminta ganti rugi dari pembuat alat AI, seperti gugatan hak cipta class motion terhadap pembuat gambar Stability AI dan Midjourney dan tuntutan hukum lainnya yang menyebabkan gempa hukum di AI. Kebocoran information ChatGPT OpenAI menyebabkan Italia untuk sementara melarang pembuat ucapan, khawatir tentang privasi information pengguna Italia, dan walikota Australia mengancam gugatan pencemaran nama baik setelah ChatGPT secara salah mengklaim bahwa dia telah masuk penjara.

Schwarz tampaknya tidak sepenuhnya menentang peraturan AI tetapi mengatakan sebagai seorang ekonom, dia menyukai efisiensi dan menginginkan hukum untuk menyeimbangkan biaya dan keuntungan dari AI. Sekitar enam menit setelah panel, Schwarz memperingatkan bahwa “AI akan digunakan oleh aktor jahat” dan “akan menyebabkan kerusakan nyata”, dengan mengatakan bahwa perusahaan harus “sangat berhati-hati dan sangat waspada” saat mengembangkan teknologi AI. Dia juga mengatakan bahwa “jika kita dapat memberlakukan peraturan yang menyebabkan lebih banyak kebaikan daripada kerugian, tentunya kita harus memberlakukannya.”

Microsoft adalah investor di OpenAI, dan selama panel, Schwarz ditanya bagaimana visi Microsoft dan OpenAI tumpang tindih.

“Saya pikir kedua perusahaan benar-benar berkomitmen untuk memastikan AI itu aman, bahwa AI digunakan untuk kebaikan, dan tidak digunakan untuk kejahatan,” kata Schwarz. “Kami harus sangat khawatir tentang keamanan teknologi ini, sama seperti teknologi lainnya.”

Microsoft dan OpenAI tidak segera menanggapi permintaan Ars untuk berkomentar. [Update: A Microsoft spokesperson told Ars that as AI technology advances, increased regulatory scrutiny is appropriate, noting that until laws are passed, Microsoft is working to address the most high-risk and sensitive AI uses. “We are optimistic about the future of AI, and we think AI advances will solve many more challenges than they present, but we have also been consistent in our belief that when you create technologies that can change the world, you must also ensure that the technology is used responsibly,” Microsoft’s spokesperson said. “Microsoft has long said that we need laws regulating AI and as we move into this new era, all of us building, deploying and using AI have a collective obligation to do so responsibly.”]