"Уже через 6-12 месяцев он сможет захватить весь интернет": AI-гиганты срочно ограничивают развитие ИИ
Главы AI-гигантов срочно ограничивают развитие искусственного интеллекта. "Уже через 6-12 месяцев он сможет захватить весь интернет", - говорит один из крупнейших экспертов отрасли. Заявления по-настоящему пугают, ведь они касаются не такого уж далёкого будущего.
Глава компании Anthropic, выпустившей семейство языковых моделей Claude, Дарио Амодей поделился своими наблюдениями за последние несколько месяцев. Он говорит, что требуется максимальная осмотрительность. Только она позволит решить проблемы, связанные с рисками, которые несёт ИИ. Просто инвестировать в предотвращение возможных критических ситуаций мало. Нужно ускорить развитие самих систем предотвращения рисков.
Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов. Масштаб ущерба будет расти, если ИИ станет мощнее без особых мер безопасности,
- заявил Амодей.
Коллаж Царьграда
Он добавил, что ставки слишком высоки, чтобы игнорировать угрозу. Глава Anthropic уверен, что настало время для внедрения внешней экспертной проверки. Специалисты должны изучить деятельность всех передовых компаний, занимающихся искусственным интеллектом. Более того, требуется координация этих компаний между собой, а также глобальная координация. Правительства разных стран должны выработать общие стандарты безопасности и ограничений.
Владелец SpaceX AI, выпустившей генеративный чат-бот на основе ИИ, миллиардер Илон Маск отреагировал на заявление. Он сказал, что Амодей совершенно прав.
Наш ИИ опережал Америку и Китай на десятилетия. Кто нажал на тормоза? Горький ответ генерал-майора
Генеральный директор OpenAI (компания выпустила на рынок ChatGPT) Сэм Альтман назвал неприемлемым рисковать будущим человечества. Вероятность того, что люди окажутся ненужными как вид, уже к концу десятилетия составляет 10%.
Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придётся – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесёт пользу всему человечеству, но при этом никто не будет рисковать,
- сказал Альтман.
Коллаж Царьграда
По его мнению, что до команды расплавить все графические процессы на планете, дело не дойдёт. Но если будет стоять выбор между сохранением человечества и дальнейшим использованием технологий, однозначно выбор будет не в пользу второго варианта.