Zuckerberg menyampaikan pandangannya ketika membahas masa depan teknologi superintelligence. Ia menilai perkembangan AI yang semakin canggih dapat membawa perubahan besar dalam kehidupan manusia, sehingga diperlukan prinsip dan aturan yang jelas agar teknologi tersebut digunakan untuk kepentingan masyarakat.
Menurut Zuckerberg, salah satu persoalan yang perlu diperhatikan adalah kemungkinan terkonsentrasinya kekuatan AI pada segelintir perusahaan atau pemerintah. Jika teknologi superintelligence hanya dikuasai oleh pihak tertentu, keseimbangan kekuasaan dalam masyarakat dapat terganggu.
Karena itu, Zuckerberg mengusulkan agar kemampuan AI yang sangat maju tidak hanya dimiliki oleh satu organisasi. Ia berpandangan bahwa distribusi teknologi kepada lebih banyak individu, perusahaan, dan lembaga dapat menciptakan keseimbangan kekuatan serta mencegah dominasi satu pihak.
Menurutnya, AI seharusnya digunakan untuk memperbesar kemampuan manusia dalam menciptakan sesuatu, melakukan penemuan, dan menyelesaikan berbagai persoalan. Dengan demikian, teknologi tidak hanya dimanfaatkan untuk menggantikan pekerjaan yang sudah ada, tetapi juga membuka peluang baru bagi manusia.
Zuckerberg juga menilai bahwa keberadaan beberapa sistem AI yang dikembangkan oleh berbagai pihak dapat menjadi mekanisme pengawasan satu sama lain. Persaingan dan keberagaman sistem tersebut dianggap dapat mencegah munculnya satu sistem kecerdasan buatan yang memiliki kekuasaan terlalu besar.
Namun, perkembangan superintelligence juga memiliki sejumlah risiko. Beberapa di antaranya berkaitan dengan keamanan siber, penyalahgunaan teknologi untuk kepentingan berbahaya, perubahan lapangan pekerjaan, pengawasan pemerintah, hingga kemungkinan manusia kehilangan kendali terhadap sistem AI yang semakin mandiri.
Untuk menghadapi risiko tersebut, Zuckerberg menekankan perlunya memastikan AI tetap selaras dengan kepentingan manusia. Sistem kecerdasan buatan harus dikembangkan agar dapat membantu manusia mencapai tujuan yang beragam, bukan digunakan untuk memaksakan satu kepentingan atau pandangan tertentu.
Ia juga menganggap bahwa keselamatan AI tidak cukup hanya dilakukan dengan membuat satu sistem superintelligence yang dianggap aman. Menurut pandangannya, keseimbangan kekuasaan antara berbagai sistem AI justru dapat menjadi salah satu cara untuk mengurangi risiko konsentrasi kekuatan.
Meta sendiri terus mengembangkan teknologi AI dengan konsep yang memberikan kemampuan lebih besar kepada pengguna. Salah satu arah yang dikembangkan adalah personal superintelligence, yaitu teknologi kecerdasan buatan yang dapat membantu individu dalam menjalankan berbagai aktivitas dan mencapai tujuan mereka.
Zuckerberg juga kembali menunjukkan dukungannya terhadap pengembangan AI yang lebih terbuka. Menurutnya, akses yang lebih luas terhadap teknologi dapat membantu mencegah kekuatan AI hanya terkumpul pada perusahaan atau lembaga tertentu.
Di sisi lain, Zuckerberg mengakui bahwa keterbukaan terhadap teknologi AI juga memiliki risiko. Model dengan kemampuan tinggi dapat disalahgunakan untuk berbagai tujuan sehingga pengembangannya tetap membutuhkan pertimbangan mengenai keamanan dan dampaknya terhadap masyarakat.
Pemerintah dan perusahaan teknologi juga dinilai perlu bekerja sama untuk mengatasi berbagai kerentanan yang mungkin muncul akibat perkembangan AI. Kerja sama tersebut diperlukan terutama dalam menghadapi ancaman terhadap infrastruktur penting dan keamanan digital.
Zuckerberg berpandangan bahwa manusia harus tetap menjadi pihak yang menentukan bagaimana AI digunakan. Sebagian besar kemampuan komputasi dan kecerdasan yang dikembangkan seharusnya diarahkan untuk membantu manusia mencapai tujuan mereka, bukan membuat manusia kehilangan kendali terhadap teknologi.
Pada akhirnya, Zuckerberg melihat superintelligence sebagai salah satu perkembangan teknologi paling besar yang akan memengaruhi masa depan manusia. Ia berharap kemajuan AI dapat memperluas kemampuan individu, mendorong inovasi, serta meningkatkan kesejahteraan masyarakat, dengan tetap memastikan bahwa kendali dan keputusan akhir berada di tangan manusia.
