Guardio тества кометата AI, един от тези браузъри. В един експеримент II купи Apple Watch на фалшив сайт, наложен на Walmart, игнорирайки „очевидните признаци на измама“ – странно лого и адрес на сайта. В друг тест Comet представи данните на банкова сметка на фишинг страница, прикрита като писмо от Wells Fargo. Третият тест показа, че AI може да се поддаде на командата от фалшив сайт изтегляне на файла.
Проблемът, както пишат изследователите, е, че AI е лишен от здрав разум и изпълнява всяка потребителска команда. Ако човек понякога може да забележи измама, AI почти винаги ще се доверява на инструкциите.
Това е особено важно сега, когато големите компании активно разработват агент и браузъри: Microsoft, Openai, Google, Tunplexity, които под една или друга форма имат планове за този пазар.
