Canllawiau moeseg mewn technoleg: Pan fydd masnach yn cymryd drosodd ymchwil

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Chwefror 15, 2023

Crynodeb mewnwelediad

Oherwydd y peryglon posibl a'r gogwydd algorithmig y gall systemau deallusrwydd artiffisial (AI) eu hachosi i grwpiau lleiafrifol dethol, mae llawer o asiantaethau a chwmnïau ffederal yn mynnu fwyfwy bod darparwyr technoleg yn cyhoeddi canllawiau moesegol ar sut maent yn datblygu ac yn defnyddio AI. Fodd bynnag, mae cymhwyso'r canllawiau hyn mewn bywyd go iawn yn llawer mwy cymhleth a muriog.

Cyd-destun gwrthdaro moeseg

Yn Silicon Valley, mae busnesau yn dal i archwilio sut orau i roi egwyddorion moesegol ar waith, gan gynnwys gofyn y cwestiwn, “faint mae’n ei gostio i flaenoriaethu moeseg?” Ar 2 Rhagfyr, 2020, postiodd Timnit Gebru, cyd-arweinydd tîm AI moesegol Google, drydariad yn dweud ei bod wedi cael ei thanio. Roedd yn uchel ei pharch yn y gymuned AI am ei hymchwil i duedd ac adnabod wynebau. Roedd y digwyddiad a arweiniodd at ei thanio yn ymwneud â phapur yr oedd wedi'i gyd-ysgrifennu y penderfynodd Google nad oedd yn bodloni eu safonau cyhoeddi. 

Fodd bynnag, mae Gebru ac eraill yn dadlau bod y tanio wedi'i ysgogi gan gysylltiadau cyhoeddus yn hytrach na chynnydd. Digwyddodd y diswyddiad ar ôl i Gebru gwestiynu gorchymyn i beidio â chyhoeddi astudiaeth ar sut y gall AI sy'n dynwared iaith ddynol niweidio poblogaethau ymylol. Ym mis Chwefror 2021, cafodd cyd-awdur Gebru, Margaret Mitchell, ei ddiswyddo hefyd. 

Dywedodd Google fod Mitchell wedi torri cod ymddygiad a pholisïau diogelwch y cwmni trwy symud ffeiliau electronig y tu allan i'r cwmni. Ni ymhelaethodd Mitchell ar sail ei diswyddiad. Sbardunodd y symudiad lu o feirniadaeth, gan arwain Google i gyhoeddi newidiadau i'w bolisïau amrywiaeth ac ymchwil erbyn Chwefror 2021. Mae'r digwyddiad hwn yn un enghraifft yn unig o sut mae gwrthdaro moeseg yn rhannu cwmnïau technoleg mawr a'u hadrannau ymchwil gwrthrychol yn ôl y sôn.

Effaith aflonyddgar

Yn ôl Adolygiad Busnes Harvard, yr her fwyaf y mae perchnogion busnes yn ei hwynebu yw dod o hyd i gydbwysedd rhwng pwysau allanol i ymateb i argyfyngau moesegol a gofynion mewnol eu cwmnïau a'u diwydiannau. Mae beirniadaethau allanol yn gwthio cwmnïau i ail-werthuso eu harferion busnes. Fodd bynnag, weithiau gall pwysau gan reolwyr, cystadleuaeth diwydiant a disgwyliadau cyffredinol y farchnad o ran sut y dylid rhedeg busnesau greu cymhellion gwrthbwysol sy'n ffafrio'r status quo. Yn unol â hynny, dim ond wrth i normau diwylliannol esblygu y bydd gwrthdaro moesegol yn cynyddu ac wrth i gwmnïau (yn enwedig cwmnïau technoleg dylanwadol) barhau i wthio ffiniau ar yr arferion busnes newydd y gallant eu gweithredu i gynhyrchu refeniw newydd.

Enghraifft arall o gorfforaethau sy'n cael trafferth gyda'r cydbwysedd moesegol hwn yw'r cwmni, Meta. Er mwyn mynd i’r afael â’i ddiffygion moesegol a gafodd gyhoeddusrwydd, sefydlodd Facebook fwrdd goruchwylio annibynnol yn 2020, gyda’r awdurdod i wrthdroi penderfyniadau cymedroli cynnwys, hyd yn oed y rhai a wnaed gan y sylfaenydd Mark Zuckerberg. Ym mis Ionawr 2021, gwnaeth y pwyllgor ei ddyfarniadau cyntaf ar gynnwys yr oedd anghydfod yn ei gylch a gwrthdroi’r rhan fwyaf o’r achosion a welodd. 

Fodd bynnag, gyda biliynau o bostiadau ar Facebook bob dydd a nifer ddigyfnewid o gwynion am gynnwys, mae'r bwrdd goruchwylio yn gweithredu'n llawer arafach na llywodraethau traddodiadol. Serch hynny, roedd y bwrdd wedi gwneud rhai argymhellion dilys. Yn 2022, cynghorodd y panel Meta Platforms i fynd i'r afael â digwyddiadau doxxing a gyhoeddwyd ar Facebook trwy wahardd defnyddwyr rhag rhannu cyfeiriadau cartref unigolion ar lwyfannau hyd yn oed os ydynt ar gael i'r cyhoedd. Roedd y bwrdd hefyd yn argymell bod Facebook yn agor sianel gyfathrebu i egluro'n dryloyw pam mae troseddau'n digwydd a sut maen nhw'n cael eu trin.

Goblygiadau gwrthdaro moeseg yn y sector preifat

Gallai goblygiadau ehangach gwrthdaro moeseg yn y sector preifat gynnwys: 

• Mwy o gwmnïau yn adeiladu byrddau moeseg annibynnol i oruchwylio gweithredu canllawiau moesegol yn eu harferion busnes priodol.
• Beirniadaeth gynyddol gan y byd academaidd ar sut mae masnacheiddio ymchwil technoleg wedi arwain at arferion a systemau mwy amheus.
• Mwy o ddraenio ymennydd y sector cyhoeddus wrth i gwmnïau technoleg ddod i ben ag ymchwilwyr AI cyhoeddus a phrifysgol talentog, gan gynnig cyflogau a buddion sylweddol.
• Mae llywodraethau'n mynnu fwyfwy bod pob cwmni'n cyhoeddi eu canllawiau moesegol p'un a ydynt yn darparu gwasanaethau technoleg ai peidio.
• Ymchwilwyr mwy di-flewyn-ar-dafod yn cael eu tanio o gwmnïau mawr oherwydd gwrthdaro buddiannau dim ond i gael eu disodli'n gyflym.

Cwestiynau i'w hystyried

• Sut ydych chi'n meddwl y bydd gwrthdaro moeseg yn effeithio ar y math o gynnyrch a gwasanaethau y mae defnyddwyr yn eu derbyn?
• Beth all cwmnïau ei wneud i sicrhau tryloywder yn eu hymchwil technoleg?