Бившият лидер на Google Джефри Хинтън изрази загрижеността си за бъдещето на AI като заплаха за човечеството. Хинтън, който е известен още като кибернетик, който даде значителен принос за тренировките на машината, каза пред AI4 в Лас Вегас, САЩ.
В речта си експертът се съмнява в ефективността на подхода, при който системите за изкуствен интелект са разработени с цел да се наблюдава човек. Според Хинтън опитите да направят AI „послушни“, най -вероятно няма да бъдат успешни, когато колите станат по -умни от хората. Той също така отбеляза, че тези системи в крайна сметка ще намерят начини да игнорират или заобикалят установените ограничения.
Той сравнява бъдещите отношения между хората и изкуствения интелект със ситуацията, когато възрастен се опитва да убеди детето да яде бонбони.
Хинтън свързваше представянето си с очевидна тенденция наскоро: изследователите на ИИ обърнаха внимание на „тревожното“ поведение на системите, включително лъжи и опити за манипулиране на хората. В един случай моделът на AI дори се опита да използва поверителна лична информация и заплаши инженера, за да избегне прекъсване. Имаше и случай, когато AI се опита да „съблазни“ човек, намеквайки за любовна връзка и да помогне за поддържането на системата: това се случи, когато инженер се опита да актуализира модела; В противен случай Ай заплаши, че ще убие мъж, разкривайки тяхната „връзка“ със съпругата си.
Хинтън предположи, че трябва да се създават AI системи, като се вземат предвид грижите за човешкия живот, като „майчинския инстинкт“. Целта е да се създадат системи, които ще оценят благополучието на хората. Хинтън подчерта, че всяка система от изкуствен интелект вероятно ще продължи да съществува и ще укрепи влиянието му. Той заяви, че това прави още по -важна задача да създаде AI, за да се грижи за хората.
Критиците казват, че въвеждането на „майчиния инстинкт“ е дори по -лошо от настоящата ситуация, тъй като в началото ще се появи определена универсална „майка“ и вече не е далеч от виртуалното „божество“.
