Исследователь Anthropic ушел из ИИ из-за страха: «Угроза выхода из-под контроля к следующему году»
Когда создатели искусственного интеллекта начинают уходить из индустрии из-за серьезных опасений, это становится весомым поводом для внимания.
Джейкоб Коксон, исследователь, ранее работавший в OpenAI, а затем в Anthropic, покидает сферу ИИ. Его беспокойство вызвано тем, что компании спешат создавать системы, которые в конечном итоге могут стать неуправляемыми. Коксон заявил The Wall Street Journal, что мы движемся к реализации «наиболее агрессивных сценариев», предупреждая, что «уже к концу следующего года ситуация может выйти из-под контроля».
Ранее в этом году Коксон перешел из OpenAI в Anthropic, ценя репутацию последней в области безопасности ИИ. Однако теперь он считает, что даже Anthropic не может ответственно разрабатывать ИИ, способный превосходить человека в различных задачах, без государственного вмешательства или замедления темпов развития всей индустрии.
Эван Хабингер, ведущий специалист Anthropic по выравниванию (Alignment Science Lead), поддержал Коксона в твите, который привлек внимание общественности. Он написал: «Мы искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность этого составляет более 10% в течение следующего десятилетия».
Коксон и Хабингер – не первые инсайдеры ИИ, кто уходит из индустрии, выражая серьезную обеспокоенность. Исследователи и руководители из OpenAI, Anthropic и xAI уже покидали свои посты из-за аналогичных опасений по поводу безопасности, этики и чрезмерно быстрого темпа развития отрасли. Хабингер также подтвердил свое убеждение, что вероятность уничтожения человечества ИИ превышает 10% в ближайшее десятилетие.
Свежие материалы — Новости экономики
Зачем банк Citi стоимостью $215 млрд ускоряет продвижение младших банкиров?
Citi ускоряет карьерный рост младших банкиров. Это последний шаг банка с капиталом в $215 миллиардов в борьбе за таланты с частными инвестиционными фондами. Citi сокращает программу аналитиков инвестиционного банкинга с трёх до двух лет. Теперь младшие банкиры быстрее получают должности асс
Четыре слепых зоны, незаметно лишающие владельцев бизнеса самого ценного
Самые дорогостоящие проблемы в бизнесе редко возникают внезапно. Они развиваются постепенно, пока владелец занят ростом и повседневными делами. В этом парадокс предпринимательства: чем сильнее вы погружены в свое дело, тем сложнее его ясно видеть. Владельцы знают свои компании лучше всех,
6 качеств, которые я ищу в каждом сотруднике
За годы работы я нанял множество людей и понял: часто мы подходим к найму не с той стороны. Мы нанимаем на должность: составляем описание, перечисляем обязанности, определяем требуемый опыт, а затем ищем кандидата, который лучше всего подходит под эти критерии. Это логично, пока компан
Сотрудничество в соцсетях: мощный инструмент роста, который вы, возможно, упускаете
Недавно ко мне обратилась клиентка с проблемой, которая поначалу казалась простой. Её бизнес процветал, клиенты были довольны, контент регулярно публиковался и находил отклик. Но месяц за месяцем показатели почти не менялись. Новые клиенты не приходили, а те, кому её услуги подошли бы идеа
Сильный Бренд Приносит Больше Денег, Чем Идеальный Маркетинг: Уроки Недвижимости
Долгое время успех в недвижимости связывали с максимальной заметностью: чем больше людей увидели ваше имя, тем больше клиентов. Агенты стремились охватить аудиторию через поиск, рекламу и контент. Вся маркетинговая философия отрасли строилась на идее: кто охватил больше, тот получил больше кли
ChatGPT и ваш мозг: Новые исследования вызывают тревогу
Основные выводы Исследователи из Калифорнийского университета в Ирвайне изучили работу студентов до и после появления ChatGPT. Они выяснили: ИИ ускоряет выполнение домашней работы, но ослабляет долгосрочное понимание материала. Тем не менее