Majalah CEO | Esai, Dunia teknologi kembali diguncang seruan penting dari kalangan pemimpin industri kecerdasan buatan (AI). Dario Amodei, Direktur Utama perusahaan pengembang sistem pintar Anthropic, secara terbuka meminta seluruh pelaku industri untuk memperlambat kecepatan pengembangan model AI tingkat lanjut. Langkah ini diambil bukan tanpa alasan — kekhawatiran yang semakin mendalam terkait risiko penyalahgunaan teknologi yang kian canggih dan berdaya guna besar.
Dalam pernyataannya, Amodei menegaskan bahwa kemajuan pesat yang terjadi belakangan ini belum disertai kerangka pengamanan yang memadai. “Kita berlari terlalu cepat tanpa memastikan jalannya aman,” ujarnya. “Kemampuan yang kita bangun kini sudah dapat diarahkan untuk tujuan yang membahayakan, dan kita belum memiliki sistem pengawasan yang tangguh guna mencegah penyalahgunaan tersebut.”
Bukan hanya seruan keamanan yang menjadi sorotan; kabar penting juga datang dari pesaing terdekatnya. OpenAI, pencipta GPT, resmi mengumumkan pembatalan rencana penawaran umum saham (go public) yang sempat ditargetkan berlangsung tahun ini. Sam Altman, pendiri dan pimpinan OpenAI, menjelaskan keputusan ini didasari penilaian bahwa kondisi pengelolaan dan pengawasan perusahaan belum cukup kokoh untuk melangkah ke ranah publik. “Tanggung jawab yang kita emban terlalu besar untuk dipertaruhkan sebelum segala sesuatunya benar-benar aman,” tegasnya.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Sementara itu, sorotan kritis semakin tajam setelah muncul laporan bahwa kelompok bersenjata Houthi diduga berupaya memanfaatkan sistem AI buatan Anthropic, Claude, guna menyempurnakan rancangan rudal balistik. Hal ini memperkuat kekhawatiran bahwa teknologi yang dikembangkan untuk kemajuan peradaban dapat dengan mudah dialihkan menjadi sarana kerusakan massal jika tidak dijaga ketat.
Pakar kebijakan teknologi menilai bahwa peristiwa-peristiwa ini menandai titik balik penting dalam sejarah perkembangan AI — di mana pertumbuhan pesat mulai diimbangi dengan tuntutan pengelolaan yang lebih bertanggung jawab. Pemerintah berbagai negara mulai menyusun kerangka peraturan khusus, namun kesepakatan global masih menjadi pekerjaan rumah yang belum tuntas.
Di tengah persimpangan ini, satu hal menjadi jelas: dunia kini tidak hanya mengejar seberapa canggih teknologi dapat dibuat, melainkan seberapa aman teknologi itu dapat dipertanggungjawabkan kepada seluruh umat manusia.***
