Dmytro Rodenko discusses whether training AI on synthetic data helps or hurts model performance. The debate centers on recursive training effects and model degradation, with researchers exploring strategies to prevent performance decline as AI systems generate their own training data.
Всім привіт. Мене звати Дмитро Руденко. Я — засновник спільноти SaaS Founders. Допомагаю власникам ІТ-компанії знаходити нових великих клієнтів за допомогою LinkedIn. Сьогодні ми поговоримо про прокляті рекурсії чи плеословеннє накопичення. Тобто ми розглянемо дискусію, яка виникає щодо навчання штучного інтелекту на синтетичних даних. Справа в тому, що використання генеративних моделей штучного інтелекту для навчання інших систем викликало жваву наукову дискусію. У 2022 році група дослідників, що очолювала Ілію Шумайлову з Кембриджського університету, обволікувала роботу під назвою «Прокляті рекурсії». Навчання на згенерованих даних змушує моделі забувати. Їхнє дослідження попереджало про ризики так званого «занепаду моделі». тобто деградації якості моделей машинного навчання, які рекурсивно навчаються на власному виводі. Згідно з їх підрахунками, продуктивність моделей може знижуватися на 10-15% з кожним рекурсивним циклом навчання. В той же час виникла нова точка зору. Наприклад, нещодавно інша група вчених – це Меттіус Герстрагер, Стенфорду Райленд Шеффер з Constellation, А про Тім Дей з університету Мерлінду і Рафаел Рафайлов з MIT висунули протилежну точку зору. В своїй роботі чи не минучий занепад моделі, розбиваючи прокляті рекурсії на купиченням реальних та синтетичних даних, вони стверджують, що проблеми навчання штучного інтелекту над даних, згенерованими самим штучним інтелектом, не є значною за умови, якщо модель навчається на суміші органічних та синтетичних даних, а не виключно лише на синтетичних. Герштрасер пояснює їхню логіку. Попередні дослідження припускали, що кожне наступне покоління штучного інтелекту навчатиметься виключно на синтетичних даних, вироблених попередньою моделью. Але ми показали, що якщо синтетичні дані змішуються з реальними, то, незважаючи на збільшення частки синтетичних даних у цій суміші, результуюча модель продовжуватиме працювати без деградації. За їхніми експериментами, при навчанні моделі на суміші 50% реальних, 50% синтетичних даних, при навчанні такі моделі, продуктивність моделі залишалася на 95% від продуктивності моделі, що навчається виключно на реальних даних. І виникла інша точка зору. Тобто автори пов'язаної роботи, модель регресії, яка розгадана випадок, модель Зенепаду розгадана в випадок регресії, Елвіз Догма, Дінжен Фенг та Джулія Кемпе не погоджуються з цими висновками. Кемпе пояснює, що в нашій роботі ми показали, що коли модель навчається на синтетичних даних згенерованих в попередньої моделі, яка сама навчалася на даних від попередньої моделі і так далі, В такому випадку її продуктивність не відповідає звичайним законам масштабування. Натомість це так, ніби вона навчалась лише на фракції вихідних даних. Тобто вони говорять про те, що виникає додаткова помилка, і ця помилка зменшує точність при навчанні на синтетичних даних. І ключовою історією є концепція законів масштабування. Дослідження, що проведено компанією Antropic у 2022 році, показало, що збільшення розміру набору даних для навчання мовної моделі в 10 разів призводило до приросту продуктивності на 8-10%. Однак, як свержують Кемпета і колеги, при навчанні на синтетичних даних ця закономірність порушується. Якщо ми ітеративно навчаємо і синтезуємо дані 10 разів, а потім використовуємо дані від останньої моделі для навчання, то отримуємо продуктивність, яку ми мали б від навчання лише на одну десятку вихідних даних, тобто значно гіршу, пояснює Кемпер. Які стратегії можна використати для того, щоб уникнути занепаду моделі? Фенкс назначає, що існує різні стратегії для запобігання рекурсивній деградації. такі як періодичне налаштування моделі на вихідних даних або застосування спеціальних методів очищення даних. Однак він визнає, що більшість цих методів мають власні компроміси щодо ефективності та продуктивності. Деякі методи можуть уповільнити темпи деградації, але не вирішують загальну проблему втрати продуктивності через порушення законів масштабування. Тому я не вважаю, що вирішення лише проблеми рекурсивної деградації є достатнім для повного уникнення занепаду моделі, зауважує Пенг. Ілія Шумайлов, який автор оригінальної роботи, погоджується, що нові результати не спростовують їхні попередні визнавки. Його точка зору є, можна так сказати, більш делікатнішою. Він каже, що занепад моделі можна пом'якшити, витрачаючи значні кошти на забезпечені якості даних, що легше для великих технологічних компаній, ніж для малих стартапів. Цитата «Наші результати не інвалідуються. Вони показали, що з простими моделями деякі ефекти можна послабити. Але зауважте, що це вимагає дедалі більших витрин і не вирішує жодних проблем для звичайних користувачів, які не мають можливості довгостроково зберігати дані», зазначає Ілля Шумайлов. Отже, Ця наукова дискусія підкреслює необхідність обережного підходу до використання синтетичних даних, що генеруються штучним інтелектом, для навчання нових моделей штучного інтелекту. З одного боку, накопичення і синтетичних, і реальних даних допомагає уникнути деградації продуктивності. З іншого боку, використання лише синтетичних даних приводить до порушення законів масштабування та значного зниження якості моделі. Що я хотів би особисто додати на цю тему? По-перше, дуже цікаво, що виникають нові значні виклики при розвитку штучного інтелекту. Це перша історія. Друга історія. Якщо не буде вирішена проблема, пов'язана з погіршенням якості даних, то це буде уповільнювати розвиток нових моделей штучного інтелекту чи зменшувати їх точність. І третє, гіпотетично існує ситуація, коли всі реальні дані в світі будуть використані і синтетичних даних, що їм згенеровані, вони будуть недостатні для того, щоб досягти AGI, тобто загального штучного інтелекту. Тому, коли ми говоримо про те, що майбутнє невідворотнє з точки зору реалізації AGI, ми можемо дійти до того, що, можливо, буде недостатньо даних для створення AGI. Давайте замислимося на цю тему і зберемо додаткову інформацію, яка або спростує моє твердження, або, навпаки, його підтвердить. Отже, давайте слідкувати за найцікавішими новинами в світі ускільченої інтелекту. в світі розвитку IT для того, щоб розуміти, як рухається ринок, як рухаються наші клієнти і споживачі, для того, щоб бути на гребній хвилі та завжди бути попереду і використовувати цю інформацію для розвитку бізнесу. Бажаю всім нових великих контрактів. До зустрічі!
Лайфхак "Какие ошибки в лидгене убивают ваши шансы на сделку по IT разработке"
