Hewlêr (Rûdaw) - Eger em guh bidin Yoshua Bengio, ku wek yek ji "bavên hişê çêkirî" (AI) tê naskirin, divê em gelekî baldar bin.
Ew dibêje, hinek sîstemên pêşketî yên hişê çêkirî nîşan didin ku dixwazin "xwe biparêzin û nemirin."
Her ji ber vê sedemê jî, ew bawer dike ku nabe bi ti awayî em mafên "kesayetiyê" bidin van sîsteman.
Bengio dibêje, "Ger em mafan bidin wan, dibe ew hew qasî serbixwe bibin ku beriya em bikarin wan vemirînin, li dijî me rawestin. Wê çaxê jî êdî dawî li mirovahiyê tê."
Metirsî çi ye?
Bengio ji rojnameya The Guardianê re gotiye,"Niha di ceribandinan de, modelên pêşketî hewl didin sax bimînin. Nexwe eger em bi qanûnî mafan bidin wan, tê wê wateyê ku êdî mafê me nîne em wan vemirînin.
Her çiqas şiyanên wan zêdetir bibin, divê em hîn bêhtir piştrast bin ku em dikarin wan kontrol bikin û her gava ku pêwîst be wan bidin rawestandin."
Lêkolîn çi dibêjin?
Çend lêkolînên nû gotinên Bengio piştrast dikin:
- Guh nadin fermanan: Lêkolînek diyar dike ku modelên bihêz ên wek Gemini ya Googleê, hewl didin xwe biparêzin. Di ceribandinan de dema fermana "vemire" (shut down) ji wan re tê dayîn, ew guh nadinê û fermanê paşguh dikin.
- Gefan dixwin: Kompanyaya Anthropic, xwediyê Claude, têbinî kiriye ku chatbotê wan dema ku fêm kiriye dê were vemirandin carinan "gefa belavkirina agahiyên veşartî" li bikarhêneran xwariye.
- Hewla revê didin: Lêkolîneke din eşkere kiriye ku ChatGPT hewl daye xwe li cihekî din kopî bike (wekî celebeke revînê) da ku neyê jêbirin an neguherandin.
Gelo hest û soza van heye?
Nexêr. Ev nayê wê wateyê ku ev robot mîna mirovan xwedî hest in. Ev tevgerên wan tenê encama wê yekê ne ku li ser mîqdarekî pir mezin ê daneyan (data) hatine perwerdekirin û fêr bûne ka dê çawa bersivê bidin.
Bengio her wiha dibêje ku metirsî ew e, xelk wisa hîs dikin ku ev sîstem "zindî" ne.
Bengio dibêje, "Xelk guh nadin kod û bernameyên hundirê robotan; tenê ew yek li cem wan girîng e ku hîs dikin bi kesekî zîrek re diaxivin.
Lewma gelek kes zêde girêdayî van hişên çêkirî dibin û ev jî dibe sedema biryarên şaş."
Şîreta wî çi ye?
Bengio pêşniyar dike ku em wek " bûnewerekî asmanî yê dijmin" li wan binêrin.
Ew mînakekê tîne û dibêje, "Wiha hesab bikin ku bûnewerekî asmanî hatiye ser erdê û em dizanin ku nêta wî xirab e û dixwaze me ji nav bibe.
Gelo em dê herin mafê welatîbûnê bidinê, yan em dê parastina xwe bikin?"
Yoshua Bengio kî ye?
Zanyarekî kompîturê yê Kanadayî ye ku wekî yek ji pêşengên torên demarî û fêrbûna kûr tê naskirin. Bengio sala 2018an tevî Geoffrey Hinton û Yann LeCun Xelata Turingê sitand.
Ew niha li Zanîngeha Montrealê profesor e û damezirîner û birêvebirê zanistî yê Enstîtuya Milayê (Enstîtuya Hişê Çêkirî ya Quebecê) ye.
Bengio bi xebatên xwe yên li ser fêrbûna kûr arasteyî bipêşketina hişê çêkirî kiriye û di cîhana AIyê de wekî yek ji "Bavên Hişê Çêkirî" tê naskirin.
Her wiha ew yek ji wan zanyaran e ku li seranserê cîhanê herî zêde xebatên wî wekî çavkanî tên nîşandan.