Видобувачі знань

Засновник платформи Knowledge Mining і CEO Neuromation Максим Прасолов розповідає, як одного разу переконав майнерів заробляти не на блокчейні, а на науці. 

Більшість мене знає як автора графічної прози, продюсера в мультимедіа, топ-менеджера, піарника. І це правда – я цим займався. Працював з міжнародним ритейлом і багатьма промисловими брендами, комерційними банками, інвестиційними і страховими компаніями.

У мене є хобі – мультфільми. Цьогоріч ми з командою робили екранізацію «Кобзаря». У нас вийшов зомбі-хорор-мультфільм. Оскільки анімація досить трудомісткий процес, під час роботи у мене виникла ідея: автоматизувати процес, писати алгоритми і навчати нейромережу за допомогою 3D-мультфільмів.

Нейромережі – це машинні алгоритми, за допомогою яких людина навчає машини і яка відтворює нервову систему людини. Ще у 1940-1950 роках вчені почали цікавитися нейромережами. Будували перцептрони (комп’ютерна модель мозку. – Ред.) та з їх допомогою намагалися відтворити людський мозок, математичну модель нейронів. Потім настав «льодовиковий період»: у 1970-х про них забули, зосередившись на фантастиці в літературі та кіно. А от у 1980-х знову згадали. І почали експериментувати зі створенням алгоритмів. Навчати нейромережі належним чином не виходило, оскільки не вистачало комп’ютерних потужностей, даних та ідей.

Нейромережу можна описати як класифікатор і спосіб сегментації інформації, який діє не тільки відповідно до заданим алгоритмом і формулами, але й на підставі минулого досвіду. Уявіть дитину, яка багато разів підряд складає пазл і щоразу припускається все меншої кількості помилок. Так працює нейромережа.

Щоб навчити її щось розпізнавати, потрібно надавати в середньому 5 тис. зображень одного об’єкта або предмета. Кожен об’єкт на зображенні треба описати: це чоловік, це кішка, це кубик, а це собака у светрі. Тільки після цього нейромережа навчиться відрізняти парасольку від собаки, машину від людини, пляшку від мотоцикла. Існує парадокс у навчанні машин – люди вчать нейромережі вручну, а люди схильні помилятися. Цей процес дуже дорогий і тривалий. Нейромережу навчають за допомогою синтетичних даних із застосуванням моделей на справжніх фотографіях. Хтось намагався вчити автономні автомобілі всередині комп’ютерної гри GTA. Але ми спростили цей процес.

Поки створювали мультфільм, ми вигадали, як автоматизувати ці процеси. Ми створили 3D-симуляції реальності і завдяки цим моделям вчимо нейромережі. Таким чином наші розробки дозволяють домогтися точності у навчанні мереж, мінімізувавши людський чинник.

Нейромережа навчається на синтетичних даних з адаптацією до реальних. Такий процес називається перенесенням навчання (transfer learning). Буквально два місяці тому нам вдалося домогтися високої якості розпізнавання.

Ми знайшли людей, яким потрібна наша розробка. Нашим першим клієнтом була величезна мережа ритейлу та роздрібної торгівлі. На полицях у супермаркеті представлена велика кількість товару. Але щоб допомогти постачальникам контролювати роздрібну торгівлю, ми перевели її у цифровий формат і навчили камери бачити, що стоїть на цих полицях. Ми виставили на полиці 3D-моделі у різних комбінаціях, для цього нам знадобився 1 млрд фотореалістичних зображень.

Ми порахували, що якби співробітники цієї мережі робили все самотужки, то знадобилося б 120 млн людино-годин.

Також наша розробка допоможе тестувати ліки, тому що нейромережа зможе симулювати живу клітину. Окрім того, ми могли тренувати індустріальних роботів і безпілотних дронів у віртуальних середовищах. Але спочатку ми перейнялися питанням, звідки брати ресурси для впровадження цих процесів.

Для існування Neuromation потрібні були відеокарти. Багато відеокарт. Спочатку всі можливості для навчань ми орендували на AmazonCloud і платили десятки тисяч доларів за використання їхніх потужностей. Потім вирішили придбати своє обладнання, але наразилися на дивне явище. Виявилося, що відеокарти, які потрібні нам з процесорами-GPU для нейромережі, також підходять для майнінгу – видобутку криптовалюти. Ще у травні спекулянти продавали відеокарти утричі дорожче.

Ми шукали їх на всіх ринках, але діставалися лише слабенькі відеокарти з США. Було дуже складно встигнути за майнерами, вони фільтрували всі потужності. І ми вирішили запропонувати їм угоду. Ми порахували, скільки вони заробляють, і виявилося, що одна фірма з шістьма відеокартами отримує $7-8 на день (це була приблизно та сума, яку ми платили Amazon).

Ми запропонували майнерам заробляти $10 на день у криптовалюті. Буквально через день нас просили надсилати адреси, куди нести відеокарти. Тепер з нами співпрацюють дуже багато майнерів. Ми створили своєрідний міст між ними і вченими, запропонувавши заробляти більше на корисних обчисленнях. За місяць у нас була тисяча відеокарт, яка давала достатню кількість потужностей для наших експериментів. А за два місяці ми разом з командою вчених підтвердили гіпотезу про синтетичні дані.

Нині кажуть, що дані – це нова нафта, а нам вдалося знайти синтетичну нафту. Здійснювати корисні обчислення набагато прибутковіше, ніж обчислювати абстрактні алгоритми у блокчейні. Індустрія глибокого і машинного навчання готова платити майнерам більше, ніж вони заробляють видобутком криптовалюти.

Тому ми створили платформу Knowledge Mining і оголосили конкурс стартапів. У вигляді призів видаватимемо технологічні потужності, за допомогою яких можна навчати ваші нейромережі.

Ми створили продукт зі зручним інтерфейсом, де будь-яка людина, що не розбирається у нюансах машинного навчання, могла б навчити нейромережу розпізнавати все, що можна розпізнати, під конкретне завдання. Нам подобається цим займатися, і ми віримо, що колись ці технології змінять світ.