Model AI Manus mencapai kemajuan terobosan dalam Benchmark GAIA

Belakangan ini, model AI Manus telah mencapai hasil yang sangat canggih dalam pengujian Benchmark GAIA, dengan kinerjanya melampaui model bahasa besar sekelas. Ini berarti Manus dapat menangani tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara, termasuk analisis ketentuan kontrak, perumusan strategi, dan pembuatan rencana.

Keunggulan Manus terutama terletak pada tiga aspek: pemecahan tujuan dinamis, penalaran lintas moda, dan pembelajaran yang diperkuat dengan ingatan. Ini dapat membagi tugas kompleks menjadi ratusan sub-tugas yang dapat dieksekusi, sekaligus memproses berbagai jenis data, dan terus meningkatkan efisiensi keputusan serta mengurangi tingkat kesalahan melalui pembelajaran penguatan.

Kemunculan Manus sekali lagi memicu diskusi di industri mengenai jalur perkembangan AI: Apakah menuju ke arah kecerdasan buatan umum (AGI), ataukah sistem multi-agen (MAS) yang berkolaborasi menjadi dominan? Kedua jalur ini memiliki kelebihan dan kekurangan masing-masing:

1. Jalur AGI: Meningkatkan kemampuan agen tunggal secara terus-menerus, sehingga mendekati tingkat pengambilan keputusan komprehensif manusia.

2. Jalur MAS: sebagai koordinator super, mengarahkan banyak agen ahli untuk bekerja sama.

Diskusi ini sebenarnya mencerminkan sebuah masalah inti dalam perkembangan AI: bagaimana mencapai keseimbangan antara efisiensi dan keamanan. Seiring dengan semakin dekatnya kecerdasan tunggal ke AGI, risiko ketidaktransparanan dalam proses pengambilan keputusan juga meningkat. Sementara kolaborasi multi-agen dapat mendistribusikan risiko, komunikasi yang tertunda mungkin menyebabkan momen pengambilan keputusan yang penting terlewatkan.

Kemajuan Manus juga menyoroti risiko potensial dalam perkembangan AI:

1. Masalah privasi data: Di bidang kesehatan, keuangan, dan lain-lain, AI mungkin perlu mengakses informasi pribadi atau perusahaan yang sensitif.

2. Bias algoritma: Dalam skenario seperti perekrutan, AI mungkin menghasilkan penilaian yang tidak adil terhadap kelompok tertentu.

3. Kerentanan keamanan: Hacker mungkin menggunakan metode khusus untuk mengganggu penilaian AI, seperti menyesatkan pemahaman tentang penawaran dalam negosiasi.

Masalah-masalah ini dengan jelas menunjukkan bahwa semakin canggih sistem cerdas, semakin luas juga potensi permukaan serangannya.

Untuk menghadapi tantangan ini, teknologi keamanan di bidang Web3 mungkin dapat menawarkan solusi:

1. Model Keamanan Zero Trust: Menekankan pada verifikasi dan otorisasi identitas yang ketat untuk setiap permintaan akses.

2. Identitas Terdesentralisasi (DID): Menyediakan cara identifikasi yang dapat diverifikasi tanpa pendaftaran terpusat.

3. Enkripsi Homomorfik Penuh (FHE): memungkinkan perhitungan data dalam keadaan terenkripsi, melindungi privasi data.

Di antara itu, teknologi FHE menunjukkan potensi besar dalam menangani masalah keamanan di era AI. Ini dapat memberikan perlindungan di beberapa tingkat berikut:

• Tingkat data: Semua informasi yang dimasukkan pengguna diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri tidak dapat mendekripsi data asli.

• Di tingkat algoritma: Melalui pelatihan model enkripsi, memastikan bahwa bahkan pengembang tidak dapat secara langsung mengamati proses pengambilan keputusan AI.

• Tingkat kolaborasi: Komunikasi antar beberapa agen cerdas menggunakan enkripsi ambang, untuk mencegah kegagalan titik tunggal yang dapat menyebabkan kebocoran data global.

Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan keamanan yang kuat menjadi semakin penting. Teknologi enkripsi canggih seperti FHE tidak hanya dapat menyelesaikan masalah yang dihadapi saat ini, tetapi juga meletakkan dasar keamanan untuk era AI yang lebih kuat di masa depan. Dalam perjalanan menuju AGI, teknologi keamanan ini akan menjadi jaminan yang tidak dapat diabaikan.