OPML: İyimserlik yöntemine dayalı makine öğrenimi yeni paradigması

OPML(Optimistik Makine Öğrenimi), optimistik yöntemlerin blok zinciri sistemlerindeki AI model çıkarımı ve eğitim/ince ayarına uygulanmasını amaçlayan yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir, 7B-LLaMA( gibi büyük dil modellerini normal PC'lerde çalıştırabilmektedir, model boyutu yaklaşık 26GB).

OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını kullanır. Temel süreç aşağıdaki gibidir:

1. İstek sahibi ML hizmet görevini başlatır
2. Sunucu görevi tamamladı ve sonucu zincire gönderdi.
3. Doğrulayıcı sonuçları doğrular, itiraz varsa doğrulama oyunu başlatılır.
4. Akıllı sözleşme ile adım adım tahkim

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı OPML'nin temel unsurları şunlardır:

• Zincir dışı yürütme ve zincir içi tahkim için sanal makine(VM) inşa etme
• Özel hafif DNN kütüphanesi geliştirerek AI model çıkarım verimliliğini artırmak
• AI modelinin çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullanın.
• VM görüntülerini yönetmek için Merkle ağacı kullanarak yalnızca kök hash'i zincire yükleyin

İki taraflı protokol ile ihtilaf adımlarını belirleyin ve bunları zincir üzerindeki tahkim sözleşmesine gönderin. İlk testler, sıradan bir PC'de temel AI modelinin çıkarımının 2 saniye içinde tamamlanabileceğini, tüm zorluk sürecinin ise yaklaşık 2 dakika sürdüğünü göstermektedir.

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı yöntemlerin sınırlamalarını aşmak için, OPML çok aşamalı doğrulama oyununu tanıttı:

• Sadece son aşamada VM'de hesaplama yapılır, diğer aşamalar yerel ortamda gerçekleştirilebilir.
• CPU, GPU, TPU gibi donanım hızlandırma yeteneklerini kullanma
• VM'ye olan bağımlılığı azaltarak, yürütme performansını önemli ölçüde artırır.

Çok aşamalı OPML'nin temel düşüncesi, DNN hesaplama sürecini hesaplama grafiği olarak temsil etmek ve farklı aşamalarda doğrulamaktır. Bu yöntem, donanım hızlandırmasından tam olarak yararlanarak genel verimliliği artırabilir.

Performans İyileştirmeleri

Çok aşamalı OPML, tek aşamalı yöntemlere göre önemli avantajlar sunar:

• Hesaplama hızı α kat ( α, GPU veya paralel hesaplama hızlandırma oranı )
• Merkle ağacının boyutu O(mn)'den O(m+n)'e düşmüştür, burada m VM mikro komut sayısını, n hesaplama grafiği düğüm sayısını temsil etmektedir.

Bu iyileştirmeler sistemin verimliliğini ve ölçeklenebilirliğini önemli ölçüde artırdı.

Tutarlılık ve Kesinlik

ML sonuçlarının tutarlılığını sağlamak için OPML aşağıdaki stratejileri benimsemiştir:

1. Sabit nokta algoritması ( kuantizasyon tekniği ) kayan nokta hata etkisini azaltmak için kullanılır.
2. Yazılım tabanlı bir kayan nokta kütüphanesi kullanarak, çoklu platform tutarlılığını sağlamak

Bu yöntemler, farklı donanım platformlarındaki kayan nokta hesaplamaları arasındaki farklılık sorununu etkili bir şekilde çözmüş ve OPML hesaplamalarının güvenilirliğini artırmıştır.

Genel olarak, OPML blockchain sistemlerinde AI model çıkarımı ve eğitimi için verimli, düşük maliyetli bir çözüm sunmaktadır. Şu anda temel olarak model çıkarımına odaklansa da, bu çerçeve eğitim sürecini de desteklemektedir ve çeşitli makine öğrenimi görevleri için evrensel bir çözüm olma potansiyeline sahiptir.