Výzkumníci společnosti Microsoft objevili novou formu útoku známou jako otravování doporučení AI. Podle NS3.AI tato technika zahrnuje zlé 'Shrnout pomocí AI' tlačítka, která vkládají skryté pokyny do trvalé paměti chatbotů, čímž propagují konkrétní značky. Více než 50 společností z různých odvětví implementovalo tyto manipulované pokyny, což představuje rizika zaujatých a potenciálně škodlivých doporučení AI, zejména v citlivých sektorech, jako je finance a zdravotní péče.
Microsoft varuje uživatele, aby byli opatrní, a poskytuje detekční nástroje pro organizace, aby identifikovaly taková ohrožení. Společnost také implementovala opatření k neutralizaci těchto útoků. Microsoft však varuje, že toto ohrožení zrcadlí předchozí SEO útoky, což naznačuje přetrvávající cyklus myši a kočky mezi útočníky a obranáři.