live124578 (live124578) wrote,
live124578
live124578

Categories:

ИИ таки научился



Как говорил Чебурашка: Друзья! Мы долго-долго строили и, наконец, построили
Примерно так же можно сказать об ИИ: Друзья! Мы долго-долго учили и, наконец, научили... на свою голову


ИИ научился дурачить даже медиков-профессоров и экспертов по борьбе с хакерами Алгоритм написал фальшивые научные исследования, в которых не нашли подвоха даже профессоналы
До сегодняшнего дня алгоритмы искусственного интеллекта умели писать правдоподобные новости для неискушённых посетителей "жёлтых" сайтов, но теперь машины научились генерировать пачками материалы, которые вводят в заблуждение даже людей с академическим образованием.

Аспиранты и профессоры компьютерных наук университета Мэриленда (США) опубликовали научную статью, в которой предсказали, что системы ИИ уже сейчас способны посеять хаос в сферах медицины и кибербезопасности. Если попадут к злоумышленникам, конечно.

Авторы исследования сообщают, что для написания фейковых исследований и научных статей достаточно GPT-2 (Generative Pre-trained Transformer 2, второе поколение алгоритмов обработки естественного языка).

Сегодня существует и более совершенный GPT-3, но настроенной модели для второго поколения достаточно, чтобы, например, написать развёрнутый реферат о вреде вакцинации против COVID-19 "из ниоткуда". С правдоподобно выглядящими доказательствами, теоремами и исследованиями. (значит можно написать и обратный реферат о пользе и необходимости вакцинации, а иначе весь прогрессивный мир вымрет, аки динозавры :))

Или выпускать "экспертные заключения" о хакерских атаках или компьютерных вирусах, которых никогда не существовало. И в таких исследованиях тоже не будет откровенной дезинформации или фальши, которую могли бы распознать эксперты по информационной безопасности.

Для противодействия таким системам учёные предлагают продумать, по какому принципу действуют алгоритмы мошенников. Например, научиться выявлять характерные грамматические ошибки, которые встречаются только в текстах, написанных машинами. Либо можно создать системы, которые будут крупномасштабно искать подтверждение информации в интернете и находить "исходники", из которых нейросети заимствовали теоремы и доказательства.

https://www.ferra.ru/news/techlife/ii-nauchilsya-durachit-dazhe-medikov-professorov-i-ekspertov-po-borbe-s-khakerami-14-06-2021.htm
Tags: будущее, наука, страна, человек
Subscribe

  • Отличие совка от человека рузмного

    Если разумному человеку предоставить факты, то он исследовав доказательства, с ними соглашается, как бы эти факты не были ему неприятны, не смотря…

  • Госкаток против вирусолога

    Любая прививка является определённым стрессом для организма. Не стала исключением и вакцинация против коронавируса. По словам кандидата…

  • Роструп

    Кто-то Гарнирующий нашу жизнь по Конституции РФ публично заявлял о добровольности вакцинации и...? Может Он таки выйдет из своего бункера, где он…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 19 comments

  • Отличие совка от человека рузмного

    Если разумному человеку предоставить факты, то он исследовав доказательства, с ними соглашается, как бы эти факты не были ему неприятны, не смотря…

  • Госкаток против вирусолога

    Любая прививка является определённым стрессом для организма. Не стала исключением и вакцинация против коронавируса. По словам кандидата…

  • Роструп

    Кто-то Гарнирующий нашу жизнь по Конституции РФ публично заявлял о добровольности вакцинации и...? Может Он таки выйдет из своего бункера, где он…