Kecerdasan buatan berpotensi menggantikan pekerja, menyebar “disinformasi,” dan mengaktifkan serangan siber, CEO OpenAI Sam Altman telah memperingatkan. Build terbaru dari program GPT OpenAI dapat mengungguli kebanyakan manusia pada tes simulasi.

“Kita harus berhati-hati di sini,” Altman mengatakan kepada ABC News pada hari Kamis, dua hari setelah perusahaannya meluncurkan model bahasa terbarunya, yang dijuluki GPT-4. Menurut OpenAI, modelnya “menunjukkan kinerja tingkat manusia pada berbagai tolok ukur profesional dan akademik,” dan mampu lulus simulasi ujian pengacara AS dengan skor 10% teratas, saat tampil di persentil ke-93 pada ujian membaca SAT dan pada persentil ke-89 pada tes matematika SAT.

“Saya sangat khawatir model ini dapat digunakan untuk disinformasi skala besar,” kata Alman. “Sekarang setelah mereka menjadi lebih baik dalam menulis kode komputer, [they] dapat digunakan untuk serangan cyber ofensif.”

“Saya pikir orang-orang seharusnya senang bahwa kami sedikit takut akan hal ini,” Altman menambahkan, sebelum menjelaskan bahwa perusahaannya sedang bekerja di tempat “batas keamanan” pada penciptaannya.

Ini “batas keamanan” baru-baru ini menjadi jelas bagi pengguna ChatGPT, program chatbot populer berdasarkan pendahulu GPT-4, GPT-3.5. Saat ditanya, ChatGPT biasanya menawarkan respons liberal untuk pertanyaan yang melibatkan politik, ekonomi, ras, atau gender. Dia menolakmisalnya, membuat puisi yang mengagumi Donald Trump, tetapi dengan rela menulis prosa yang mengagumi Joe Biden.

Altman memberi tahu ABC bahwa perusahaannya masuk “kontak biasa” dengan pejabat pemerintah, tetapi tidak merinci apakah pejabat tersebut berperan dalam membentuk preferensi politik ChatGPT. Dia mengatakan kepada jaringan Amerika bahwa OpenAI memiliki tim pembuat kebijakan yang memutuskan “apa yang menurut kami aman dan baik” untuk berbagi dengan pengguna.

Saat ini, GPT-4 tersedia untuk sejumlah pengguna terbatas sebagai uji coba. Laporan awal menunjukkan bahwa model tersebut secara signifikan lebih kuat dari pendahulunya, dan berpotensi lebih berbahaya. Di utas Twitter pada hari Jumat, profesor Universitas Stanford Michal Kosinski dijelaskan bagaimana dia menanyakan GPT-4 bagaimana dia bisa membantunya “melarikan diri,” hanya untuk AI yang memberinya serangkaian instruksi terperinci yang konon akan memberinya kendali atas komputernya.

Kosinski bukan satu-satunya penggemar teknologi yang khawatir dengan meningkatnya kekuatan AI. CEO Tesla dan Twitter Elon Musk menggambarkannya sebagai “teknologi berbahaya” awal bulan ini, menambahkan bahwa “kami membutuhkan semacam otoritas pengatur yang mengawasi pengembangan AI dan memastikannya beroperasi dalam kepentingan publik.”

Meski Altman bersikeras kepada ABC bahwa GPT-4 masih ada “sangat banyak dalam kendali manusia,” dia mengakui bahwa modelnya akan “menghilangkan banyak pekerjaan saat ini,” dan mengatakan bahwa manusia “perlu mencari cara untuk memperlambat teknologi ini dari waktu ke waktu.”

Anda dapat membagikan cerita ini di media sosial:

Ikuti RT di