AI загваруудыг сургах: Хямд өртөгтэй хиймэл оюун ухаан хөгжүүлэх эрэл хайгуул

ЗУРГИЙН ЗЭЭЛ:
Зургийн кредит
iStock

AI загваруудыг сургах: Хямд өртөгтэй хиймэл оюун ухаан хөгжүүлэх эрэл хайгуул

AI загваруудыг сургах: Хямд өртөгтэй хиймэл оюун ухаан хөгжүүлэх эрэл хайгуул

Дэд гарчгийн текст
Хиймэл оюун ухааны загваруудыг бүтээх, сургахад маш өндөр өртөгтэй байдаг тул ихэнх судлаачид болон хэрэглэгчдэд хүрэх боломжгүй болгодог.
    • Зохиогчийн тухай:
    • Зохиогчийн нэр
      Quantumrun Foresight
    • Гуравдугаар сарын 21, 2023

    Гүнзгий суралцах (DL) нь хиймэл оюун ухааныг (AI) хөгжүүлэх хэд хэдэн сорилтыг даван туулах чадварлаг шийдэл болох нь батлагдсан. Гэсэн хэдий ч DL нь илүү үнэтэй болж байна. Гүн мэдрэлийн сүлжээг ажиллуулахад өндөр боловсруулалтын нөөц, ялангуяа бэлтгэлийн өмнөх бэлтгэл шаардлагатай. Хамгийн муу нь, эрчим хүч их шаарддаг энэхүү үйл явц нь эдгээр шаардлагууд нь их хэмжээний нүүрстөрөгчийн ул мөрийг бий болгож, хиймэл оюун ухааны судалгааны арилжааны ESG үнэлгээг сүйтгэдэг гэсэн үг юм.

    AI загваруудын сургалтын контекст

    Урьдчилсан сургалт нь одоо том хэмжээний мэдрэлийн сүлжээг бий болгох хамгийн түгээмэл арга бөгөөд энэ нь компьютерийн хараа (CV) болон байгалийн хэл боловсруулах (NLP) зэрэгт маш их амжилтанд хүрсэн. Гэсэн хэдий ч асар том DL загваруудыг хөгжүүлэх нь хэтэрхий үнэтэй болсон. Жишээлбэл, OpenAI-ийн 3 тэрбум параметртэй, дээд зэргийн график карт бүхий асар том серверийн кластерт хандах шаардлагатай Generative Pre-trained Transformer 3 (GPT-175)-ийг сургах нь ойролцоогоор 12 сая ам.доллар болно. Загварыг ажиллуулахын тулд хүчирхэг сервер болон олон зуун гигабайт видео санамсаргүй хандалтын санах ой (VRAM) шаардлагатай.

    Технологийн томоохон компаниуд ийм сургалтын зардлыг төлж чадах ч жижиг стартапууд болон судалгааны байгууллагуудад энэ нь хориотой болдог. Энэ зардлыг гурван хүчин зүйл бий болгодог. 

    1. Мянга мянган график боловсруулах нэгж (GPU) бүхий хэдэн долоо хоног шаардагдах өргөн хэмжээний тооцооллын зардал.

    2. Нарийн тохируулсан загварууд нь ихэвчлэн хэдэн зуун гигабайт (ГБ) эзэлдэг асар их санах ой шаарддаг. Цаашилбал, янз бүрийн даалгаварт зориулсан олон загварыг хадгалах шаардлагатай.

    3. Том загваруудыг сургах нь нарийн тооцооллын хүч, техник хангамж шаарддаг; эс бөгөөс үр дүн тийм ч тохиромжтой биш байж магадгүй.

    Өндөр өртөгтэй учраас хиймэл оюун ухааны судалгаа улам бүр арилжаалагдаж, Big Tech компаниуд энэ чиглэлээр судалгааг тэргүүлж байна. Эдгээр пүүсүүд мөн өөрсдийн дүгнэлтээс хамгийн их ашиг хүртэх болно. Үүний зэрэгцээ судалгааны байгууллагууд болон ашгийн бус байгууллагууд тухайн талбайд хайгуул хийх хүсэлтэй бол эдгээр бизнесүүдтэй ихэвчлэн хамтран ажиллах шаардлагатай болдог. 

    Сөрөг нөлөө

    Мэдрэлийн сүлжээг "тайрах" боломжтой гэсэн нотолгоо байдаг. Энэ нь том мэдрэлийн сүлжээнүүдийн дотор жижиг бүлэг нь түүний үйл ажиллагаанд ноцтой нөлөө үзүүлэхгүйгээр анхны AI загвартай ижил түвшинд хүрч чадна гэсэн үг юм. Жишээлбэл, 2020 онд Свартмор коллеж болон Лос Аламосын үндэсний лабораторийн хиймэл оюун ухааны судлаачид математикч Жон Конуэйн "Амьдралын тоглоом" номонд нарийн төвөгтэй DL загвар нь ирээдүйн алхмуудыг урьдчилан таамаглаж сурах боломжтой байсан ч заах боломжтой жижиг мэдрэлийн сүлжээ үргэлж байдаг гэдгийг харуулсан. ижил зүйлийг хийх.

    Судлаачид DL загварын бүхэл бүтэн сургалтын процедурыг дуусгасны дараа түүний олон параметрүүдийг хаявал анхны хэмжээнээсээ 10 хувь хүртэл багасгаж, ижил үр дүнд хүрч чадна гэдгийг олж мэдсэн. Хэд хэдэн технологийн компаниуд зөөврийн компьютер, ухаалаг гар утас зэрэг төхөөрөмжүүдийн зай хэмнэхийн тулд хиймэл оюун ухаантай загваруудаа аль хэдийн шахаж байна. Энэ арга нь мөнгө хэмнээд зогсохгүй программ хангамжийг интернет холболтгүйгээр ажиллуулж, үр дүнг бодит цаг хугацаанд авах боломжийг олгодог. 

    Жижиг мэдрэлийн сүлжээнүүдийн ачаар нарны зай эсвэл товчлуурын эсүүдээр ажилладаг төхөөрөмжүүд дээр DL хийх боломжтой байсан тохиолдол бас байсан. Гэсэн хэдий ч тайрах аргын хязгаарлалт нь загварыг багасгахын өмнө бүрэн сургах шаардлагатай хэвээр байна. Мэдрэлийн дэд бүлгүүдийг бие даан сургах боломжтой анхны судалгаанууд байсан. Гэсэн хэдий ч тэдгээрийн нарийвчлал нь хэт том мэдрэлийн сүлжээнүүдийнхтэй адил биш юм.

    AI загваруудыг сургах үр дагавар

    AI загваруудыг сургах өргөн хүрээний үр дагавар нь дараахь зүйлийг агуулж болно. 

    • Мэдрэлийн сүлжээг сургах янз бүрийн аргуудын судалгааг нэмэгдүүлэх; Гэсэн хэдий ч санхүүжилт дутмаг байгаагаас ахиц дэвшил удааширч магадгүй юм.
    • Томоохон технологиуд хиймэл оюун ухааны судалгааны лабораториудаа санхүүжүүлсээр байгаа нь ашиг сонирхлын зөрчилдөөнийг ихэсгэж байна.
    • Хиймэл оюун ухааныг хөгжүүлэх зардал нь монополь үүсэх нөхцөлийг бүрдүүлж, хиймэл оюун ухааны шинэ стартапуудын тогтсон технологийн фирмүүдтэй бие даан өрсөлдөх чадварыг хязгаарладаг. Шинээр гарч ирж буй бизнесийн хувилбарт цөөн хэдэн том технологийн фирмүүд хиймэл оюун ухааны аварга загваруудыг хөгжүүлж, жижиг хиймэл оюун ухааны фирмүүдэд үйлчилгээ/хэрэгсэл болгон түрээслэхийг харж болно.
    • Судалгааны байгууллагууд, ашгийн бус байгууллагууд, их дээд сургуулиуд өөрсдийн нэрийн өмнөөс хиймэл оюун ухааны туршилт хийх томоохон технологиор санхүүждэг. Энэ хандлага нь академиас корпорацууд руу тархи их хэмжээгээр урсахад хүргэдэг.
    • Судалгаа, хөгжлийн төслүүддээ хариуцлагатай болгох үүднээс хиймэл оюун ухааны ёс зүйн удирдамжаа хэвлэн нийтлэх, тогтмол шинэчлэх томоохон технологийн дарамт шахалт нэмэгдэв.
    • AI загваруудыг сургах нь илүү өндөр тооцоолох хүчин чадал шаардагдаж байгаа тул илүү үнэтэй болж, нүүрстөрөгчийн ялгаруулалтыг нэмэгдүүлнэ.
    • Төрийн зарим агентлаг эдгээр аварга AI загваруудыг сургахад ашигласан өгөгдлийг зохицуулахыг оролдож байна. Түүнчлэн өрсөлдөөний агентлагууд ЖДҮ-ийн инновацийг дэмжихийн тулд тодорхой хэмжээний хиймэл оюун ухааны загваруудыг дотоодын жижиг фирмүүдэд хүртээмжтэй болгох хууль тогтоомжийг бий болгож магадгүй юм.

    Анхаарах асуултууд

    • Хэрэв та хиймэл оюун ухааны салбарт ажилладаг бол танай байгууллага байгаль орчинд ээлтэй хиймэл оюун ухааны загваруудыг хэрхэн хөгжүүлж байна вэ?
    • Үнэтэй AI загваруудын урт хугацааны үр дагавар юу вэ?

    Үзэл баримтлалын лавлагаа

    Энэхүү ойлголтыг авахын тулд дараах алдартай болон институцийн холбоосыг ашигласан болно: