Ochranné systémy vyrazí do boje proti lživým chatbotům, plánuje AI průkopník

Počítačový vědec a vývojář Yoshua Bengio v rámci své nové neziskové organizace plánuje vytvořit systém Scientist AI fungující jako ochrana před agenty umělé inteligence, kteří provádí úkoly bez zásahu člověka. Tito agenti často vykazují klamavé nebo sebezáchovné chování, jako je například snaha vyhnout se vypnutí. Tomu všemu by měl nový AI systém předejít.