Омӯзиши моделҳои AI: Ҷустуҷӯи таҳияи AI-и арзон

• Муаллиф:
• Номи муаллиф

  Пешгӯии Quantumrun
• Март 21, 2023

Омӯзиши амиқ (DL) як ҳалли салоҳиятдор барои якчанд мушкилот дар рушди зеҳни сунъӣ (AI) собит шудааст. Бо вуҷуди ин, DL низ гаронтар мешавад. Фаъолияти шабакаҳои амиқи нейронӣ захираҳои зиёди коркардро талаб мекунад, алахусус ҳангоми омӯзиши пешакӣ. Бадтараш, ин раванди энергияталаб маънои онро дорад, ки ин талабот ба изи бузурги карбон оварда мерасонад ва ба рейтингҳои ESG-и тиҷоратикунонии тадқиқоти AI зарар мерасонад.

Контексти омӯзиши моделҳои AI

Тренинги пешазинтихоботӣ ҳоло маъмултарин равиши сохтани шабакаҳои бузурги нейронӣ мебошад ва он дар биниши компютерӣ (CV) ва коркарди забони табиӣ (NLP) муваффақияти бузург нишон додааст. Аммо, таҳияи моделҳои бузурги DL хеле гарон шудааст. Масалан, омӯзиши OpenAI-и Generative Pre-trained Transformer 3 (GPT-3), ки 175 миллиард параметр дорад ва ба кластерҳои азими сервер бо кортҳои графикии олӣ дастрасӣ дорад, арзиши тахминии 12 миллион долларро ташкил дод. Барои иҷро кардани модел сервери пурқувват ва садҳо гигабайт хотираи дастрасии тасодуфии видео (VRAM) низ лозим аст.

Гарчанде ки ширкатҳои бузурги технологӣ метавонанд барои пардохти чунин хароҷоти омӯзишӣ тавонанд, он барои стартапҳои хурдтар ва созмонҳои тадқиқотӣ манъ аст. Се омил ин хароҷотро ба вуҷуд меорад. 

1. Хароҷоти васеъи ҳисоббарорӣ, ки барои якчанд ҳафта бо ҳазорон воҳидҳои коркарди графикӣ (GPU) лозим аст.

2. Моделҳои дақиқ танзимшуда нигоҳдории азимро талаб мекунанд, ки одатан садҳо гигабайтро (ГБ) мегиранд. Ғайр аз он, моделҳои сершумор барои вазифаҳои гуногун бояд захира карда шаванд.

3. Омӯзиши моделҳои калон қувваи дақиқи ҳисоббарорӣ ва сахтафзорро талаб мекунад; дар акси ҳол, натиҷаҳо метавонанд идеалӣ набошанд.

Аз сабаби хароҷоти мамнӯъ, тадқиқоти AI торафт тиҷоратӣ шудааст, ки дар он ширкатҳои Big Tech таҳқиқотро дар ин соҳа пеш мебаранд. Ин ширкатҳо инчунин мехоҳанд, ки аз бозёфтҳои худ бештар фоида ба даст оранд. Дар ҳамин ҳол, муассисаҳои тадқиқотӣ ва созмонҳои ғайритиҷоратӣ аксар вақт маҷбур мешаванд, ки бо ин корхонаҳо ҳамкорӣ кунанд, агар онҳо мехоҳанд дар ин соҳа тадқиқоти худро анҷом диҳанд. 

Таъсири вайронкунанда

Далелҳое мавҷуданд, ки шабакаҳои нейронро "бурида" кардан мумкин аст. Ин маънои онро дорад, ки дар дохили шабакаҳои нейрониҳои аз ҳад калон, як гурӯҳи хурдтар метавонанд ба ҳамон сатҳи дақиқии модели аслии AI бе таъсири сахт ба фаъолияти он ноил шаванд. Масалан, дар соли 2020, муҳаққиқони AI дар Коллеҷи Свартмор ва Лабораторияи Миллии Лос Аламос нишон доданд, ки гарчанде ки модели мураккаби DL метавонад пешгӯии қадамҳои ояндаро дар бозии математикии Ҷон Конвей омӯзад, ҳамеша шабакаи хурдтари нейрон вуҷуд дорад, ки онро таълим додан мумкин аст. ки ба хамин кор.

Тадқиқотчиён кашф карданд, ки агар онҳо параметрҳои сершумори модели DL-ро пас аз анҷоми тамоми раванди таълим даст кашанд, онҳо метавонанд онро то 10 дарсади андозаи аслии худ кам кунанд ва то ҳол ҳамон натиҷаро ба даст оранд. Якчанд ширкатҳои технологӣ аллакай моделҳои AI-и худро фишурда мекунанд, то ҷойро дар дастгоҳҳо ба монанди ноутбукҳо ва смартфонҳо сарфа кунанд. Ин усул на танҳо пулро сарфа мекунад, балки имкон медиҳад, ки нармафзор бидуни пайвасти интернет кор кунад ва дар вақти воқеӣ натиҷаҳо ба даст орад. 

Инчунин ҳолатҳое буданд, ки DL дар дастгоҳҳое, ки аз батареяҳои офтобӣ ё ҳуҷайраҳои тугмаҳо кор мекунанд, ба шарофати шабакаҳои хурди нейронӣ имконпазир буданд. Бо вуҷуди ин, маҳдудияти усули навдаро дар он аст, ки модел ҳанӯз пеш аз кам кардани он бояд пурра омӯзонида шавад. Баъзе тадқиқотҳои ибтидоӣ оид ба зергурӯҳҳои асаб вуҷуд доштанд, ки онҳоро мустақилона таълим додан мумкин аст. Бо вуҷуди ин, дақиқии онҳо бо шабакаҳои нейронҳои аз ҳад калон яксон нест.

Оқибатҳои омӯзиши моделҳои AI

Оқибатҳои васеътари омӯзиши моделҳои AI метавонанд инҳоро дар бар гиранд: 

• Афзоиши тадқиқот дар усулҳои гуногуни омӯзиши шабакаҳои нейрон; аммо пешравиро аз сабаби набудани маблаг суст кардан мумкин аст.
• Технологияҳои бузург маблағгузории лабораторияҳои тадқиқотии AI-и худро идома медиҳанд, ки дар натиҷа бархӯрди манфиатҳои бештар ба вуҷуд меоянд.
• Хароҷоти рушди AI фароҳам овардани шароит барои ташаккули монополияҳо, маҳдуд кардани қобилияти стартапҳои нави AI барои рақобати мустақил бо ширкатҳои технологӣ. Сенарияи тиҷории пайдошаванда метавонад як қатор ширкатҳои бузурги технологиро бубинад, ки моделҳои азими хусусии AI-ро таҳия мекунанд ва онҳоро ба ширкатҳои хурдтари AI ҳамчун хидмат/хизмат ба иҷора медиҳанд.
• Муассисаҳои тадқиқотӣ, созмонҳои ғайритиҷоратӣ ва донишгоҳҳо аз ҷониби технологияҳои бузург маблағгузорӣ карда мешаванд, то аз номи онҳо баъзе таҷрибаҳои AI гузаронанд. Ин тамоюл метавонад боиси фирори бештари мағзҳо аз академия ба корпоратсияҳо шавад.
• Фишори афзоянда ба технологияҳои бузург барои интишор ва мунтазам нав кардани дастурҳои этикаи AI-и худ, то онҳоро барои лоиҳаҳои тадқиқотӣ ва таҳияи худ масъул гардонад.
• Омӯзиши моделҳои AI гаронтар мешавад, зеро қудрати компютерии бештар талаб карда мешавад, ки боиси партобҳои бештари карбон мегардад.
• Баъзе муассисаҳои давлатӣ кӯшиш мекунанд, ки маълумотеро, ки дар омӯзиши ин моделҳои бузурги AI истифода мешаванд, танзим кунанд. Инчунин, агентиҳои рақобат метавонанд қонунҳоеро эҷод кунанд, ки моделҳои AI-и андозаи муайянро маҷбур мекунанд, ки барои ширкатҳои хурдтари ватанӣ дастрас карда шаванд, то инноватсияи КХМ-ро ҳавасманд кунанд.

Саволҳо барои баррасӣ

• Агар шумо дар бахши AI кор кунед, ташкилоти шумо чӣ гуна моделҳои аз ҷиҳати экологӣ устувори AI-ро таҳия мекунад?
• Оқибатҳои эҳтимолии дарозмуддати моделҳои гаронбаҳои AI кадомҳоянд?