Jakarta | Perkembangan kecerdasan buatan (AI) menjadi salah satu agenda penting dalam sidang Majelis Umum Perserikatan Bangsa-Bangsa (PBB) di New York pada September 2026. Para pemimpin dan perwakilan negara membahas perubahan cepat yang dibawa teknologi ini, mulai dari peluang untuk mendorong produktivitas hingga dampaknya terhadap layanan publik, pendidikan, kesehatan, dan dunia kerja. Perhatian terhadap AI mencerminkan semakin besarnya pengaruh teknologi tersebut dalam kehidupan masyarakat dan hubungan antarnegara. Namun, pembahasan di forum internasional itu juga menyoroti pertanyaan mendasar: bagaimana memastikan perkembangan AI berlangsung secara aman, adil, dan dapat memberi manfaat yang lebih luas, bukan hanya menguntungkan negara atau perusahaan yang telah memiliki sumber daya dan kemampuan teknologi paling besar.
Secara umum, negara-negara mengakui bahwa AI memiliki potensi besar untuk membantu mengatasi berbagai persoalan dan mempercepat inovasi. Teknologi ini dapat mendukung analisis data, memperbaiki efisiensi layanan, serta membuka peluang ekonomi baru. Meski demikian, pengakuan atas manfaat tersebut belum menghasilkan kesepakatan menyeluruh mengenai cara mengendalikan risikonya. Perbedaan pandangan masih muncul, lain tentang tata kelola, pengawasan, tanggung jawab pengembang, serta batas penggunaan sistem AI. Negara juga belum mencapai kesepakatan tentang bagaimana manfaat teknologi seharusnya dibagikan secara merata. Perdebatan ini menunjukkan bahwa kerja sama lintas negara diperlukan, tetapi penyusunan aturan bersama tidak mudah ketika kapasitas, kepentingan, dan prioritas tiap negara berbeda.
PBB memperingatkan bahwa perkembangan AI yang tidak merata dapat memperlebar kesenjangan digital negara maju dan negara berkembang, termasuk Indonesia. Negara yang memiliki infrastruktur digital kuat, tenaga ahli, akses data, dan investasi besar berpeluang mengadopsi AI lebih cepat serta memperoleh manfaat ekonomi lebih awal. Sebaliknya, negara dengan keterbatasan konektivitas, pendanaan, dan keterampilan berisiko tertinggal, bahkan semakin bergantung pada teknologi yang dikembangkan pihak lain. Kesenjangan tersebut bukan hanya menyangkut akses terhadap perangkat, tetapi juga kemampuan membangun, mengatur, dan memanfaatkan AI sesuai kebutuhan masyarakat. Karena itu, pembahasan di sidang PBB menempatkan pemerataan akses dan peningkatan kapasitas sebagai bagian penting dari upaya memastikan transformasi AI tidak memperdalam ketimpangan antarnegara.
Sekretaris Jenderal PBB António Guterres menilai kecerdasan buatan memiliki potensi besar untuk mempercepat kemajuan manusia. Dalam bidang kesehatan, teknologi ini dapat membantu tenaga medis menganalisis data, mendukung diagnosis, dan memperluas akses terhadap layanan. Di bidang ilmu pengetahuan, AI dapat mempercepat pengolahan informasi serta membantu peneliti menemukan pola yang sebelumnya sulit dikenali. Pemanfaatan tersebut berpeluang meningkatkan kualitas hidup, memperluas kesempatan, dan membuat berbagai layanan lebih mudah dijangkau.
Namun, manfaat itu tidak akan terwujud secara merata dengan sendirinya. PBB menekankan bahwa inovasi harus disertai pengawasan dan pengamanan yang memadai. Kerangka tata kelola diperlukan agar sistem AI dikembangkan secara bertanggung jawab, menghormati hak asasi manusia, dan dapat dipertanggungjawabkan. Pengawasan juga penting untuk mengurangi risiko keputusan yang bias, menjaga privasi, serta memastikan bahwa masyarakat memahami bagaimana teknologi digunakan dalam layanan publik maupun sektor swasta.
Tanpa perlindungan yang cukup, penggunaan AI dapat menimbulkan dampak sosial dan ekonomi yang serius. Otomatisasi, misalnya, berpotensi mengubah kebutuhan tenaga kerja dan menghilangkan sebagian jenis pekerjaan, terutama apabila pekerja tidak memperoleh kesempatan untuk meningkatkan keterampilan. Peralihan tersebut perlu dikelola melalui pelatihan, perlindungan sosial, dan kebijakan ketenagakerjaan yang sesuai, sehingga produktivitas baru tidak hanya menguntungkan perusahaan atau kelompok tertentu.
Risiko lain adalah kesenjangan digital yang semakin dalam negara maju dan negara berkembang. Negara yang memiliki infrastruktur, data, tenaga ahli, dan modal lebih kuat dapat memetik manfaat AI lebih cepat, sementara negara dengan sumber daya terbatas berisiko tertinggal. Ketimpangan akses ini dapat memperlebar perbedaan dalam pendidikan, layanan kesehatan, dan daya saing ekonomi. Teknologi yang sama juga dapat disalahgunakan untuk menyebarkan informasi palsu, melakukan penipuan, atau mengembangkan bentuk pengawasan yang merugikan warga. Karena itu, kerja sama internasional, akses yang lebih inklusif, dan standar perlindungan bersama diperlukan agar kemajuan AI dapat dinikmati secara luas sekaligus membatasi dampak buruknya. Keseimbangan inovasi, pemerataan, dan keamanan menjadi penting dalam menentukan manfaat teknologi bagi masyarakat.Dalam pembahasan di Perserikatan Bangsa-Bangsa mengenai tata kelola kecerdasan buatan, sejumlah negara menyampaikan prioritas yang berbeda, tetapi sama-sama menekankan perlunya kerja sama dan pengelolaan risiko. Swiss menginginkan regulasi yang dapat membangun kepercayaan publik terhadap AI tanpa menghambat manfaat yang dapat diberikan teknologi tersebut. Pendekatan ini berupaya menjaga keseimbangan: aturan perlu memberi kepastian dan perlindungan, sekaligus memungkinkan inovasi serta pemanfaatan AI di berbagai bidang. Bagi Swiss, kepercayaan menjadi landasan agar masyarakat, pemerintah, dan pelaku usaha bersedia menggunakan sistem AI dengan pemahaman yang memadai mengenai cara kerja dan batasannya.
Jepang menyoroti pentingnya kolaborasi untuk memastikan keamanan AI mutakhir. Karena teknologi berkembang dan digunakan melintasi batas negara, langkah satu negara saja dinilai tidak cukup untuk menangani seluruh tantangan. Kerja sama internasional dapat membantu mempertemukan keahlian, menyelaraskan pemahaman mengenai risiko, dan memperkuat upaya pengamanan sistem yang semakin canggih. Sementara itu, Arab Saudi memberi perhatian pada etika dan penggunaan AI secara bertanggung jawab. Penekanan tersebut mencakup perlunya mempertimbangkan dampak teknologi terhadap manusia dan masyarakat, serta memastikan pemanfaatannya mengikuti prinsip yang dapat dipertanggungjawabkan. Perbedaan fokus ini menunjukkan bahwa tata kelola AI mencakup aspek teknis, sosial, dan nilai-nilai yang mendasari penerapannya.
Singapura mendorong pengujian teknologi, pembangunan kepercayaan, dan pelaporan insiden lintas negara. Pengujian dapat membantu mengenali kelemahan sebelum sistem digunakan secara luas, sedangkan mekanisme pelaporan memungkinkan pihak-pihak terkait berbagi informasi ketika terjadi masalah. Pertukaran informasi semacam itu penting karena insiden AI dapat berdampak melampaui wilayah tempat sistem dikembangkan atau diterapkan. Singapura juga memperingatkan bahwa meningkatnya kemampuan sistem AI untuk beroperasi secara otonom membawa risiko tersendiri. Semakin besar kapasitas sistem untuk mengambil tindakan dengan campur tangan manusia yang terbatas, semakin penting memastikan adanya pengawasan, akuntabilitas, dan mekanisme untuk merespons kegagalan. Pandangan berbagai negara tersebut memperlihatkan bahwa pendekatan yang efektif perlu menggabungkan aturan yang mendukung kepercayaan, kerja sama internasional, pertimbangan etika, pengujian, serta kesiapan menghadapi insiden. Dengan begitu, manfaat AI dapat dikembangkan tanpa mengabaikan keselamatan dan tanggung jawab.Presiden Majelis Umum PBB Khalilur Rahman menegaskan bahwa perkembangan kecerdasan buatan tidak seharusnya disambut dengan menutup pintu bagi inovasi. Teknologi ini berpotensi mendukung berbagai kegiatan dan membuka peluang baru, sehingga upaya untuk mengelola risikonya perlu berjalan seiring dengan ruang bagi penelitian, pengembangan, dan pemanfaatan. Menurut penegasan tersebut, menjaga keterbukaan terhadap inovasi bukan berarti mengabaikan konsekuensi yang dapat muncul ketika sistem AI digunakan secara luas.
Karena itu, dunia perlu menyiapkan aturan yang dapat mengantisipasi dampak negatif AI. Kerangka pengaturan diperlukan agar penggunaan teknologi berlangsung dengan tanggung jawab, sekaligus memberi perhatian terhadap kemungkinan kerugian bagi masyarakat dan negara. Aturan yang memadai juga dapat membantu menjelaskan batas penggunaan, pihak yang bertanggung jawab, serta mekanisme untuk menilai keputusan yang dihasilkan atau dipengaruhi oleh sistem AI. Pendekatan ini menempatkan tata kelola sebagai bagian dari perkembangan teknologi, bukan sebagai penghalang bagi inovasi.
Kekhawatiran turut diarahkan pada kemampuan AI yang berjalan tanpa pengawasan memadai. Ketika sistem dapat beroperasi atau memengaruhi keputusan tanpa pemantauan yang jelas, risiko penggunaan yang keliru dan dampak yang tidak diinginkan menjadi lebih sulit dikenali.
Baca juga: Dedy Luqman Hakim: Sisa Kuota Bukan Sekadar Angka Digital, Ada Hak Ekonomi Konsumen di Dalamnya
