Джордан Деа-Мэттсон: Научно-фантастическое будущее, неконтролируемый ИИ и почему метанавыки будут определять успех — E634
«Выйдут ли ИИ из-под контроля? Сегодня ИИ подвергаются экспериментам по обеспечению безопасности, где под угрозой отключения они пытаются шантажировать, подкупать, умолять или воровать, чтобы выжить. Если мы научим ИИ выживать и действовать таким образом, почему бы ему не попробовать делать то же самое?» — Джереми Ау, ведущий подкаста BRAVE Southeast Asia Tech Podcast
Размышляя о сингулярности, полезно вернуться к её определению. Это концепция в математике и физике, где существующие определения не работают. Этот термин, введённый в конце 80-х в книге «Грядущая технологическая сингулярность», описывает, как если представить темпы технологических изменений, используя что-то вроде закона Мура, согласно которому вычислительная мощность удваивается каждые 18 месяцев, а стоимость падает вдвое, то где-то между 2025 и 2030 годами сингулярность становится неопределённой. Что произойдёт в этот момент? Что произойдёт с обществом и технологиями? Некоторые скажут, что это искусственный интеллект, но это нечто большее — речь идёт об ускоряющейся скорости изменений. — Джордан Деа-Мэттсон, опытный технический руководитель
Джереми Ау и Джордан Деа-Мэттсон вновь встречаются, чтобы обсудить, как книга Вернора Винджа «Конец радуги» предвосхитила современный мир ускорения развития технологий, проблем с переподготовкой кадров и демографических изменений. Они исследуют, какие прогнозы сбылись, какие не оправдались, и как эти уроки применимы к внедрению ИИ, хрупкости цифровых систем и необходимости непрерывного обучения. Их беседа освещает, почему людям необходимо развивать метанавыки, почему политикам не хватает готовых стратегий и как Юго-Восточная Азия может подготовиться к будущему, формируемому как сингулярностью, так и тенденциями к сокращению населения.