OPML: нова парадигма машинного навчання на основі оптимістичного підходу

OPML(Оптимістичне машинне навчання) є новою технологією, що має на меті застосування оптимістичного підходу до інференції та навчання/доладжування AI моделей у блокчейн-системах. У порівнянні з ZKML, OPML має переваги низьких витрат та високої ефективності, здатне запускати великі мовні моделі на звичайному ПК, такі як 7B-LLaMA( з розміром моделі приблизно 26GB).

OPML використовує механізм верифікації ігор для забезпечення децентралізації та верифікації ML-сервісів. Основний процес виглядає так:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер завершив завдання та надіслав результати на ланцюг
3. Верифікатор перевіряє результати, у разі заперечення запускається ігрова перевірка.
4. Одноетапний арбітраж через смарт-контракти

! OPML: Машинне навчання з Optimistic Rollup

Одноетапна верифікація гри

Основні елементи одностадійного OPML включають:

• Побудова віртуальної машини для виконання поза ланцюгом та арбітражу на ланцюгу (VM)
• Реалізувати спеціалізовану легку бібліотеку DNN для підвищення ефективності висновків AI моделей
• Використання технології крос-компіляції для компіляції коду інференсу AI-моделей у інструкції VM
• Використання дерева Меркла для управління зображеннями VM, завантажуючи лише кореневий хеш на ланцюг

Визначення спірних етапів за допомогою бінарного протоколу та відправка їх до арбітражного контракту на блокчейні. Попередні тести показали, що базове AI моделювання може бути завершено за 2 секунди на звичайному ПК, а весь процес виклику триває близько 2 хвилин.

! OPML: Машинне навчання з оптимістичною системою зведення

Багатоступенева верифікація гри

Щоб подолати обмеження однофазного методу, OPML запровадила багатофазну гру перевірки:

• Обчислення в VM лише на останньому етапі, інші етапи можуть виконуватись у локальному середовищі
• Використання апаратних можливостей прискорення, таких як CPU, GPU, TPU
• Значно підвищити продуктивність виконання, зменшуючи залежність від VM

Основна ідея багатоступеневої OPML полягає в представленні процесу обчислення DNN у вигляді обчислювальної графіки та верифікації на різних етапах. Цей підхід дозволяє повністю використовувати апаратне прискорення, підвищуючи загальну ефективність.

Покращення продуктивності

Багатоступенева OPML має суттєві переваги в порівнянні з одноступеневими методами:

• Прискорення обчислень в α разів ( α для GPU або прискорення паралельних обчислень )
• Розмір дерева Меркла зменшується з O(mn) до O(m+n), де m - кількість мікроінструкцій VM, n - кількість вузлів обчислювального графа.

Ці вдосконалення значно підвищили ефективність і масштабованість системи.

! OPML: Машинне навчання з Optimistic Rollup

Узгодженість та визначеність

Щоб забезпечити узгодженість результатів ML, OPML впровадив такі стратегії:

1. Використання алгоритму фіксованої точки ( для технології квантування ) з метою зменшення впливу помилок з плаваючою комою
2. Використовуйте бібліотеку з плаваючою комою на основі програмного забезпечення для забезпечення кросплатформної узгодженості

Ці методи ефективно вирішують проблему різниці у обчисленнях з плаваючою комою на різних апаратних платформах, підвищуючи надійність обчислень OPML.

! OPML: Машинне навчання з оптимістичною системою зведення

В цілому, OPML забезпечує ефективне і економічне рішення для інференції та навчання AI-моделей у блокчейн-системах. Хоча наразі основна увага приділяється інференції моделей, ця структура також підтримує процес навчання, і має потенціал стати універсальним рішенням для різних завдань машинного навчання.