Штучний інтелект Google навчився агресивній поведінці у стресових ситуаціях

У ході дослідження вчені провели 40 мільйонів раундів комп'ютерної гри зі збирання фруктів між двома "агентами" DeepMind, які повинні були змагатися один з одним і зібрати настільки багато віртуальних яблук, наскільки це буде можливо.

Виявилося, що поки в грі була достатня кількість яблук, штучний інтелект вів себе мирно, але по мірі того, як яблук ставало все менше, агенти були схильні використовувати лазер для того, щоб вибити опонента з гри і зібрати яблука. При цьому, ніякої додаткової "винагороди" за використання лазерного променя штучний інтелект не отримував. Він просто вибивав суперника з гри і отримував можливість спокійно збирати яблука. Якщо ж агенти не використовували лазерні промені, вони могли закінчити гру з однаковою кількістю яблук.

Цікаво, що саме таку тактику обрали "менш інтелектуальні" версії DeepMind. Саботаж, агресію і жадібність демонстрували тільки більш комплексні версії штучного інтелекту.