ИИ мог позировать

Искусственный интеллект может представлять для человечества «риск исчезновения» масштаба ядерной войны или пандемии, и снижение этого риска должно быть «глобальным приоритетом», согласно Открой письмо подписали лидеры ИИ, такие как Сэм Альтман из OpenAI и Джеффри Хинтон, известный как «крестный отец» ИИ.

Открытое письмо из одного предложения, выпущенное некоммерческим Центром безопасности ИИ, является одновременно кратким и зловещим, без экстраполяции того, как более 300 подписавшихся предвидят, что ИИ превратится в экзистенциальную угрозу человечеству.

В электронном письме CBS MoneyWatch Дэн Хендрикс, директор Центра безопасности ИИ, написал, что существует «множество путей к социальным рискам, связанным с ИИ».

«Например, ИИ может быть использован злоумышленниками для разработки нового биологического оружия, более смертоносного, чем естественные пандемии», — написал Хендрикс. «В качестве альтернативы злоумышленники могут преднамеренно выпустить мошеннические ИИ, которые активно пытаются причинить вред человечеству. Если бы такой ИИ был достаточно умным или способным, он мог бы представлять значительный риск для общества в целом».

Сэм Альтман (в центре), генеральный директор OpenAI и изобретатель программного обеспечения для искусственного интеллекта ChatGPT, беседует с аудиторией после панельной дискуссии в Мюнхенском техническом университете (TUM) в мае 2023 года.

Альянс Свен Хоппе и прессы через Getty Images


Он добавил, что долгосрочные риски также могут угрожать человечеству, например, если ИИ автоматизирует часть экономики, а люди откажутся от контроля над технологиями, чтобы быть конкурентоспособными.

«В этом сценарии мы все больше полагаемся на ИИ для навигации по все более быстрому и сложному ландшафту», — сказал он. «Эта растущая зависимость может сделать идею простого «закрытия их» не только разрушительной, но и потенциально невозможной, что приведет к риску потери человечеством контроля над нашим собственным будущим».

Ранее в этом месяце Альтман сказал законодателям, что ИИ может «ты собираешься очень плохо» и может «причинить значительный вред миру», если не будет должным образом регулироваться. Генеративный ИИ может создавать текст, фотографии и видео, которые трудно отличить от творений, созданных людьми, что приводит к таким проблемам, как Песня, созданная ИИ который клонировал голоса музыкантов Дрейка и The Weeknd.


Генеральный директор Microsoft Брэд Смит говорит, что, по его мнению, регулирование ИИ произойдет в следующем году.

Эта песня была окончательно удалена с потоковых платформ после того, как издательский гигант Universal Music Group заявил, что она нарушает закон об авторском праве.

Более того, эксперты подчеркивают риски, которые ИИ представляет для определенных типов работников, при этом исследователи отмечают, что технология может ликвидировать миллионы рабочих мест. Согласно новому отчету аналитиков UBS, внедрение ИИ на рабочем месте сопряжено с неопределенностью и рисками — и не только для рабочих мест в компаниях, использующих эту технологию.

Например, генеративный ИИ может «галлюцинировать» ответы или термин для выплевывания неверной информации, которая кажется достоверной, черта, которая может не только распространять дезинформацию, но и представлять риск для доверия к компаниям, которые ее используют, заметил UBS. Один из таких случаев произошел недавно, когда юрист подал бриф, основанный на исследовании, проведенном ChatGPT. придуманные случаи которые не существовали, и настаивал на том, что они были правдой.

Среди других лиц, подписавших открытое письмо, такие знаменитости, как философ Дэниел Деннет из Тафтса, эколог Билл Маккиббен из колледжа Миддлбери и музыкант Граймс.

Source

ЧИТАТЬ  Уэмбаньяма набрал 27 очков в игре летней лиги
admin
Оцените автора
( Пока оценок нет )
Только самые свежие новости