Facebook údajne odstavil systém umelej inteligencie po tom, čo vytvoril svoj vlastný jazyk bez ľudského zásahu, podľa Tech Times .
optad_b
Incident prichádza len pár dní potom Mark Zuckerberg tvrdo kritizoval AI výroky o vymyslených scenároch súdneho dňa. Teraz sa jeho vlastná spoločnosť ocitá v a Terminátor -zvyčajná situácia, vypnutie AI, pretože sa veci údajne vymkli spod kontroly.
Vedci z laboratória Facebook Artificial Intelligence Research navrhli na rokovania s ľuďmi dvoch agentov AI. Boli naučení konverzovať medzi sebou obyčajnou angličtinou, začali sa však odchyľovať a vyvíjať nový jazyk. Ich interpretácia je väčšinou bláznivá a je pochopiteľná iba pre dva systémy.
Tu je úryvok z jednej z ich konverzácií:
Bob: môžem aj všetko ostatné. . . . . . . . . . . . . .
Alice: gule majú nulu pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre
Bob: ty som všetko ostatné. . . . . . . . . . . . . .
Alice: gule majú loptu ku mne ku mne ku mne ku mne ku mne ku mne ku mne
Bob: i can can i i i everything else. . . . . . . . . . . . . .
Alice: gule majú loptu ku mne ku mne ku mne ku mne ku mne ku mne ku mne
Bob: i. . . . . . . . . . . . . . . . . . .
Alice: gule majú nulu pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre
Bob: ty i i i i i všetko ostatné. . . . . . . . . . . . . .
Alice: gule majú 0 pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa
Bob: ty i ja ja všetko ostatné. . . . . . . . . . . . . .
Alice: gule majú nulu pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre mňa pre
Dôvod, prečo sa tieto AI alebo „dialógoví agenti“ stali nečestnými, je ten, že vedci im nedali podnet na to, aby hovorili ako normálny človek. Namiesto toho teda vytvorili účinnejší - aj keď nezrozumiteľný - jazyk robota. Vo vyššie uvedenom príklade agenti redukujú vety na holé prvky ako formu skratky. Tí dvaja AI nemajú problém porozumieť si.
'Agenti sa vzdialia zrozumiteľného jazyka a sami si vymyslia kódové slová,' uviedol Dhruv Batra, hosťujúci vedecký pracovník z Georgia Tech v spoločnosti Facebook AI Research. Co.Design . 'Ako keby som povedal päťkrát, interpretujete to tak, že chcem päť kópií tejto položky.' Toto sa až tak nelíši od spôsobu, akým spoločenstvá ľudí vytvárajú skratky. “
Tento neuveriteľný počin môže znieť ako priekopnícky objav, ale bohužiaľ ponúka veľmi malú hodnotu v skutočnom svete. My obyčajní ľudia nie sme schopní porozumieť rozhovoru. Aj keď je to pre AI rýchlejší a efektívnejší spôsob vzájomného rozhovoru, jazyk ponúka malú výhodu pre ľudí, ktorí tvrdo pracujú na optimalizácii reči medzi ľuďmi, nie medzi AI. Facebook rýchlo vytiahol Boba a Alicu z práce a prinútil ich, aby začali opäť hovoriť anglicky.
Sociálny gigant potom urobil ďalší fascinujúci objav po tom, čo dostal dvoch dialógových robotov do reči. Pri pohľade na to, čo ide nad rámec jednoduchého napodobňovania, chceli vedci zistiť, či by sa roboty mohli naučiť vyjednávať. Urobili to tak, že ich testovali online v rozhovoroch so skutočnými ľuďmi. Facebook tvrdí, že väčšina ľudí si ani neuvedomila, že hovorí s robotom, a najlepší vyjednávač robotov bol rovnako dobrý alebo lepší ako človek.
Facebook dúfa, že dokáže optimalizovať svoju AI na osobného digitálneho asistenta pre budúce služby.
H / T MetroUK
