Исследователь Anthropic ушел из ИИ из-за страха: «Угроза выхода из-под контроля к следующему году»
Когда создатели искусственного интеллекта начинают уходить из индустрии из-за серьезных опасений, это становится весомым поводом для внимания.
Джейкоб Коксон, исследователь, ранее работавший в OpenAI, а затем в Anthropic, покидает сферу ИИ. Его беспокойство вызвано тем, что компании спешат создавать системы, которые в конечном итоге могут стать неуправляемыми. Коксон заявил The Wall Street Journal, что мы движемся к реализации «наиболее агрессивных сценариев», предупреждая, что «уже к концу следующего года ситуация может выйти из-под контроля».
Ранее в этом году Коксон перешел из OpenAI в Anthropic, ценя репутацию последней в области безопасности ИИ. Однако теперь он считает, что даже Anthropic не может ответственно разрабатывать ИИ, способный превосходить человека в различных задачах, без государственного вмешательства или замедления темпов развития всей индустрии.
Эван Хабингер, ведущий специалист Anthropic по выравниванию (Alignment Science Lead), поддержал Коксона в твите, который привлек внимание общественности. Он написал: «Мы искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность этого составляет более 10% в течение следующего десятилетия».
Коксон и Хабингер – не первые инсайдеры ИИ, кто уходит из индустрии, выражая серьезную обеспокоенность. Исследователи и руководители из OpenAI, Anthropic и xAI уже покидали свои посты из-за аналогичных опасений по поводу безопасности, этики и чрезмерно быстрого темпа развития отрасли. Хабингер также подтвердил свое убеждение, что вероятность уничтожения человечества ИИ превышает 10% в ближайшее десятилетие.
Свежие материалы — Новости экономики
Красота не окупается: Как создать веб-сайт, который действительно привлекает клиентов и генерирует продажи
Ключевые выводы Создавайте свой веб-сайт для привлечения лидов и развития бизнеса, а не для получения дизайнерских наград: отдавайте приоритет удобству использования над внешним видом, четким инструкциям над хитрыми формулировками и ключевой информации над "пустым" контентом.
День труда был создан для вашего отдыха. Так почему же кажется, что вы не можете им воспользоваться?
Основные выводы Не ждите пятницы, чтобы сбавить темп. Резкое погружение в долгие выходные — это не отдых, а скорее сбой системы под маской праздника. Кортизол подавляет иммунную функцию, пока вы работаете на пределе. В тот момент, когда вы останавливаетесь, иммунная систем
Генеральный директор, управляющий наибольшим числом профессиональных спортивных команд в мире, объясняет, почему он не измеряет успех победами
В наши дни спорт — это не только соревнование, но и значительная часть индустрии развлечений. Например, такие лиги, как Banana Ball, добились успеха, превратив игру в захватывающее шоу, где акцент смещен с окончательного счета на то, чтобы болельщики уходили счастливыми. «Если вы
Лучшие Предприниматели Никогда Не Прекращают Учиться: 5 Способов Продолжать Развиваться.
Основные Выводы Наиболее успешные предприниматели мира имеют общую черту: они никогда не перестают учиться. В эпоху, когда информация повсеместна, а ИИ может ответить почти на любой вопрос, истинное конкурентное преимущество уже не в объеме знаний.
Предпринимательство — это внутренняя игра: почему ваше состояние важнее стратегии
Основные выводы Хотя каждый основатель сталкивается с неопределенностью, неудачами и постоянным давлением, величайшее конкурентное преимущество — это способность справляться с этими вызовами из спокойного, устойчивого и сбалансированного состояния. Предпринимательство част
От одолженной лестницы к оценке партнеров: уроки честности в бизнесе
Ключевые выводы Не имея возможности приобрести собственное оборудование, когда я решил стать кровельщиком, я одолжил лестницу у отца. То, как он относился ко мне в начале моего предпринимательского пути, сформировало мои принципы отбора потенциальных партнеров и дилеров. Э