Как избежать угрозы от искусственного интеллекта в будущем?

Как спасти мир от ИИ людей?

AI-2027, считай, что уже случился.
Следующий шаг — AI-2040.

Авторы легендарнейшего пророчества выпустили сиквел о том каким будет мир со сверчеловеческим электронным разумом, который (внимание!) НЕ приведет к уничтожению человечества.

Как я писал позавчера, теория игр не дает сверхдержавам и компаниям достичь полной прозрачности и раскрытия IP, а именно это является основным аргументом статьи. Однако, риск полного и взаимного уничтожения (как мы знаем с ядерным оружием) существенно меняет эквилибриум игры.

2028 - политический шок, все боятся ИИ, США и Китай подписывают соглашение о любви взасос
2029 - соглашение о компьюте подобно соглашению о ядерном оружии с аудитами
2030 - консорциум, надмозг и ООН регулирующий ИИ
2030 - полностью опенсорсный R&D для ИИ
2031 - диффузия технологии, доступ к моделям для всех вместо 2-3 гигаолигополий
2032 - контролируемый индустриальный взрыв
2033 - лимиты и контроль выпуска роботов
2034 - дивиденды от ИИ и роботов для всех граждан (с правильными паспортами)
2034 - MAD для компьюта
2035 - пауза для тренировки топовых ИИ моделей
2036 - эпистемический шок, потеря ценности "работы", автоматизация почти всей экономики, внедрение ИИ в институты и политику
2038 - alignment становится доминирующей наукой
2039 - передача власти на планете и в странах ИИ
2040 - пенсия человечества