Джордан Деа-Маттсон: Научно-фантастическое будущее, искусственный интеллект-изгой и почему мета-навыки определят, кто добьется успеха – E634
Spotify: https://open.spotify.com/episode/1QosmFLam5NI59qN4gkaZ2?si=cc479cb3692e4a4a
YouTube: https://youtu.be/gWN5D0YdQuA
«Выйдут ли ИИ из-под контроля? Сегодня ИИ проходят эксперименты по обеспечению безопасности, в ходе которых, в случае угрозы отключения, они пытаются шантажировать, подкупать, умолять или воровать, чтобы выжить. Если мы обучим ИИ выживать и действовать соответствующим образом, почему бы ему не попытаться сделать то же самое?» — Джереми Ау, ведущий подкаста BRAVE Southeast Asia Tech
«Размышляя о сингулярности, полезно вернуться к её определению. Это концепция в математике и физике, где существующие определения перестают работать. Этот термин, введенный в конце 80-х годов в книге «Грядущая технологическая сингулярность», описывает, как, если построить график темпов технологических изменений, используя что-то вроде закона Мура — где вычислительная мощность удваивается каждые 18 месяцев, а затраты снижаются вдвое — где-то между 2025 и 2030 годами, он становится неопределённым. Что произойдёт в этот момент? Что произойдёт с обществом и технологиями? Некоторые скажут, что это искусственный общий интеллект, но это нечто большее — речь идёт об ускоряющемся темпе изменений». — Джордан Деа-Маттсон, опытный технологический лидер
Джереми Ау и Джордан Деа-Маттсон возобновляют беседу, чтобы обсудить, как книга Вернора Винге «Конец радуги» предвосхитила современный мир стремительного развития технологий, проблем переквалификации и демографических сдвигов. Они анализируют, какие предсказания сбылись, какие не оправдались, и как эти уроки применимы к внедрению ИИ, уязвимым цифровым системам и необходимости непрерывного обучения. В ходе беседы они затрагивают вопросы о том, почему людям необходимо развивать мета-навыки, почему у политиков нет готовых сценариев действий и как Юго-Восточная Азия может подготовиться к будущему, определяемому как сингулярностью, так и тенденциями депопуляции.