Awọn awoṣe AI ikẹkọ: wiwa fun idagbasoke AI kekere-kekere

• Nipa Author:
• Orukọ onkọwe

  Quantumrun Iwoju
• March 21, 2023

Ẹkọ ti o jinlẹ (DL) ti fihan lati jẹ ojutu ti o peye si ọpọlọpọ awọn italaya ni idagbasoke itetisi atọwọda (AI). Sibẹsibẹ, DL tun n di gbowolori diẹ sii. Ṣiṣẹ awọn nẹtiwọọki nkankikan ti o jinlẹ nilo awọn orisun sisẹ giga, ni pataki ni ikẹkọ iṣaaju. Buru, ilana agbara-agbara yii tumọ si pe awọn ibeere wọnyi ja si awọn ifẹsẹtẹ erogba nla, ba awọn idiyele ESG ti iṣowo iwadii AI.

Ikẹkọ AI awọn awoṣe o tọ

Ikẹkọ iṣaaju jẹ ọna ti o gbajumọ julọ si kikọ awọn nẹtiwọọki nkankikan nla, ati pe o ti ṣe afihan aṣeyọri nla ni iran kọnputa (CV) ati sisẹ ede abinibi (NLP). Sibẹsibẹ, idagbasoke awọn awoṣe DL nla ti di idiyele pupọ. Fun apẹẹrẹ, ikẹkọ OpenAI's Generative Pre-trained Transformer 3 (GPT-3), eyiti o ni awọn ayeraye bilionu 175 ati pe o nilo iraye si awọn iṣupọ olupin nlanla pẹlu awọn kaadi eya aworan ogbontarigi, ni idiyele ifoju ti USD $12 million. Olupin ti o lagbara ati awọn ọgọọgọrun gigabytes ti iranti wiwọle ID fidio (VRAM) tun nilo lati ṣiṣe awoṣe naa.

Lakoko ti awọn ile-iṣẹ imọ-ẹrọ pataki le ni anfani lati ni iru awọn idiyele ikẹkọ, o di idinamọ fun awọn ibẹrẹ kekere ati awọn ẹgbẹ iwadii. Awọn ifosiwewe mẹta n ṣakoso inawo yii. 

1. Awọn idiyele iṣiro ti o gbooro, eyiti yoo nilo awọn ọsẹ pupọ pẹlu ẹgbẹẹgbẹrun awọn ẹya sisẹ ayaworan (GPUs).

2. Awọn awoṣe aifwy daradara nilo ibi ipamọ nla, nigbagbogbo n gba awọn ọgọọgọrun gigabytes (GBs). Pẹlupẹlu, awọn awoṣe pupọ fun awọn iṣẹ ṣiṣe oriṣiriṣi nilo lati wa ni ipamọ.

3. Ikẹkọ awọn awoṣe nla nilo agbara iširo deede ati ohun elo; bibẹẹkọ, awọn abajade le ma dara.

Nitori awọn idiyele idinamọ, iwadii AI ti di ti iṣowo ti n pọ si, ninu eyiti awọn ile-iṣẹ Big Tech n ṣe itọsọna awọn ikẹkọ ni aaye naa. Awọn ile-iṣẹ wọnyi tun duro lati ni anfani pupọ julọ lati awọn awari wọn. Nibayi, awọn ile-iṣẹ iwadii ati awọn alaiṣẹ nigbagbogbo ni lati ṣe ifowosowopo pẹlu awọn iṣowo wọnyi ti wọn ba fẹ ṣe iwadii wọn ni aaye. 

Ipa idalọwọduro

Ẹri wa ti o daba pe awọn nẹtiwọọki nkankikan le jẹ “pirun”. Eyi tumọ si pe laarin awọn nẹtiwọọki nkankikan supersized, ẹgbẹ ti o kere ju le ṣaṣeyọri ipele deede kanna bi awoṣe AI atilẹba laisi awọn ipa ti o wuwo lori iṣẹ ṣiṣe rẹ. Fun apẹẹrẹ, ni ọdun 2020, awọn oniwadi AI ni Ile-ẹkọ giga Swarthmore ati Ile-iyẹwu Orilẹ-ede Los Alamos ṣapejuwe pe botilẹjẹpe awoṣe DL eka kan le kọ ẹkọ lati ṣe asọtẹlẹ awọn igbesẹ ọjọ iwaju ninu Oniṣiro John Conway's Game of Life, nigbagbogbo nẹtiwọọki alakikan kekere wa ti o le kọ ẹkọ. lati ṣe ohun kanna.

Awọn oniwadi ṣe awari pe ti wọn ba sọ ọpọlọpọ awọn aye ti awoṣe DL silẹ lẹhin ti o ti pari gbogbo ilana ikẹkọ, wọn le dinku si 10 ogorun ti iwọn atilẹba rẹ ati tun ṣaṣeyọri abajade kanna. Ọpọlọpọ awọn ile-iṣẹ imọ-ẹrọ ti n tẹ awọn awoṣe AI wọn tẹlẹ lati ṣafipamọ aaye lori awọn ẹrọ bii kọǹpútà alágbèéká ati awọn fonutologbolori. Ọna yii kii ṣe fifipamọ owo nikan ṣugbọn tun gba sọfitiwia laaye lati ṣiṣẹ laisi asopọ Intanẹẹti ati gba awọn abajade ni akoko gidi. 

Awọn iṣẹlẹ tun wa nigbati DL ṣee ṣe lori awọn ẹrọ ti o ni agbara nipasẹ awọn batiri oorun tabi awọn sẹẹli bọtini, o ṣeun si awọn nẹtiwọọki kekere. Sibẹsibẹ, aropin ti ọna pruning ni pe awoṣe tun nilo lati ni ikẹkọ patapata ṣaaju ki o le dinku. Diẹ ninu awọn ikẹkọ akọkọ wa lori awọn ipin ti iṣan ti o le ṣe ikẹkọ lori ara wọn. Sibẹsibẹ, deede wọn kii ṣe kanna bi ti awọn nẹtiwọọki nkankikan ti o tobi ju.

Awọn ipa ti ikẹkọ AI awọn awoṣe

Awọn ilolu to gbooro ti ikẹkọ awọn awoṣe AI le pẹlu: 

• Iwadi ti o pọ si ni awọn ọna oriṣiriṣi ti ikẹkọ awọn nẹtiwọọki nkankikan; sibẹsibẹ, ilọsiwaju le fa fifalẹ nipasẹ aini inawo.
• Imọ-ẹrọ nla n tẹsiwaju lati ṣe inawo awọn ile-iṣẹ iwadii AI wọn, ti o yorisi awọn ija ti iwulo diẹ sii.
• Awọn idiyele ti idagbasoke AI ṣiṣẹda awọn ipo fun awọn anikanjọpọn lati dagba, diwọn agbara ti awọn ibẹrẹ AI tuntun lati dije ni ominira pẹlu awọn ile-iṣẹ imọ-ẹrọ ti iṣeto. Oju iṣẹlẹ iṣowo ti n yọ jade le rii ọwọ diẹ ti awọn ile-iṣẹ imọ-ẹrọ nla ti n dagbasoke awọn awoṣe AI ohun-ini gidi ati yiyalo wọn si awọn ile-iṣẹ AI kekere bi iṣẹ kan / ohun elo.
• Awọn ile-iṣẹ iwadii, awọn ti kii ṣe ere, ati awọn ile-ẹkọ giga ti n ṣe inawo nipasẹ imọ-ẹrọ nla lati ṣe diẹ ninu awọn idanwo AI fun wọn. Aṣa yii le ja si ṣiṣan ọpọlọ diẹ sii lati ile-ẹkọ giga si awọn ile-iṣẹ.
• Ipa ti o pọ si fun imọ-ẹrọ nla lati ṣe atẹjade ati ṣe imudojuiwọn awọn ilana iṣe iṣe AI wọn nigbagbogbo lati jẹ ki wọn jiyin fun iwadii wọn ati awọn iṣẹ akanṣe idagbasoke.
• Ikẹkọ AI awọn awoṣe di gbowolori diẹ sii bi agbara iširo ti o ga julọ ti nilo pupọ, ti o yori si awọn itujade erogba diẹ sii.
• Diẹ ninu awọn ile-iṣẹ ijọba ngbiyanju lati ṣe ilana data ti a lo ninu ikẹkọ ti awọn awoṣe AI nla wọnyi. Bakannaa, awọn ile-iṣẹ idije le ṣẹda ofin ti o fi ipa mu awọn awoṣe AI ti iwọn kan lati jẹ ki o wa si awọn ile-iṣẹ kekere ti ile ni igbiyanju lati ṣe imotuntun SME.

Awọn ibeere lati ronu

• Ti o ba ṣiṣẹ ni eka AI, bawo ni agbari rẹ ṣe n ṣe idagbasoke awọn awoṣe AI alagbero ayika diẹ sii?
• Kini awọn abajade igba pipẹ ti o pọju ti awọn awoṣe AI gbowolori?