Хассабис
О мире ближайшего будущего, который будет создаваться уже не только людьми.
Глава
DeepMind Демис Хассабис от лица Google -
/
Вопрос : если Китай первым создаст AGI, мы пропали, потому что тот, кто достигнет этого первым, воспользуется технологией, чтобы уйти далеко вперёд. Вы с этим не согласны?Хассабис - если первые системы будут созданы с неправильными ценностями или небезопасно, это может стать катастрофой.
Есть как минимум два риска, которые меня серьёзно беспокоят. Первый — это злонамеренные действующие лица, которые могут перенаправить AGI в разрушительное русло. Второй — технический риск, исходящий от самих систем ИИ. Чем мощнее и автономнее становится ИИ, тем важнее обеспечить, чтобы защитные механизмы вокруг него были надёжными и не могли быть обойдены.
Если всё пойдёт хорошо, мы окажемся в эпохе радикального изобилия, своего рода золотом веке. AGI сможет решить то, что я называю «корневыми проблемами» мира, — излечить ужасные болезни, обеспечить гораздо более здоровую и долгую жизнь, найти новые источники энергии. Если всё это произойдёт, то начнётся эпоха максимального расцвета человечества, где мы полетим к звёздам и начнём колонизировать галактику. Думаю, первые шаги к этому начнутся уже в 2030 году.
Капитализм и западные демократические системы пока что доказали свою эффективность как наилучший двигатель прогресса. Но как только мы достигнем пост‑AGI‑стадии радикального изобилия, понадобятся новые экономические теории. Не понимаю, почему экономисты уже сейчас не работают над этим активнее.
Хассабис верит, что AGI сам поможет нам преодолеть кризисы, создав то самое радикальное изобилие. Однако ключевой вопрос остаётся: сможет ли общий ИИ изменить не только мир вокруг нас, но и саму человеческую природу? Ответ на него определит, станет ли век AGI триумфом человеческого гения или его самой сложной головоломкой./
Недавно здесь шёл разговор о культуре, но в свете инноваций, которые создаёт ИИ и общей смене экономики, а значит, и социума, его идей, сложно даже предположить, как будет развиваться культура. Что и её охватит глобализация, несомненно, увы, будут потеряны местные особенности, хотя Запад и Восток...."вместе им не сойтись", надолго, я думаю. А, главное, какой будет мораль сытого общества? Тотальный контроль, или осознанные свобода и ответственность?