Новости

May 03, 2023

Темпл Грандин: Искусственный интеллект и ChatGPT — это здорово, но нам все еще нужны эксперты.

Впервые я узнал об искусственном интеллекте в 1968 году, когда увидел фильм, который меня поразил.

Впервые я узнал об искусственном интеллекте в 1968 году, когда увидел фильм, который меня глубоко тронул, «2001: Космическая одиссея» режиссера Стэнли Кубрика. Мне был 21 год. Я любил научно-фантастические фильмы, но этот имел особое значение.

Как человек с аутизмом, я более рационален и основан на фактах, чем на эмоциях и чувствах, и мою речь описывают как монотонную или немодулированную. В старшей школе некоторые дети называли меня «роботом» и «магнитофоном». Именно поэтому я вспомнил о HAL, разумном компьютере, который своим ровным голосом и гиперлогикой помогает астронавтам в их миссии (пока он этого не делает). Но я не уделял искусственному интеллекту столько внимания до 1997 года, когда компьютер IBM Deep Blue победил чемпиона мира по шахматам Гарри Каспарова. Это изменило правила игры. Затем, в 2003 году, я был потрясен, когда два марсохода были отправлены, чтобы провести дни, самостоятельно перемещаясь по поверхности планеты, без контроля человека.

С тех пор ИИ проник в нашу повседневную жизнь, обеспечивая работу Siri, беспилотные автомобили, всплывающую рекламу в социальных сетях, алгоритмы для личных инвестиций и многое другое. Совсем недавно технологическая компания OpenAI представила ChatGPT, предоставляя бесплатный доступ к этой замечательной технологии. ChatGPT уже сдал экзамен на адвоката.

Я хотел знать, какой опыт ChatGPT может использовать в моей работе. Я попросил его написать небольшой абзац о поведенческих принципах обращения со скотом. Он точно обобщил одну из моих статей, продемонстрировав, что математический анализ хорош настолько, насколько хороши данные, которые в него вложены. Затем, используя формулировки, которые я обычно не использую, чтобы он не мог просто найти мою собственную работу, я попросил его написать короткий абзац о хороших методах обращения со скотом. В нем был написан точный и краткий абзац о задействованных поведенческих принципах. По обоим параграфам были приведены реальные и актуальные ссылки. Однако в одном случае там была старая схема действительно плохого проекта объекта — проекта, о котором новичок в отрасли даже не догадывался, что он имел серьезные недостатки. В любой области, где используется ИИ, нам по-прежнему понадобятся эксперты.

До сих пор большая часть беспокойства по поводу ИИ была сосредоточена на том, отнимут ли машины у людей рабочие места, сделает ли ИИ человеческую расу ненужной. Я считаю, что это беспокойство напрасно. Каждая технологическая революция уничтожает одни рабочие места и создает другие. Я считаю, что настоящая опасность кроется в другом.

Поскольку я не только аутист, но и обладатель яркого визуального мышления, смысл приходит ко мне в первую очередь в изображениях. Мой разум подобен симулятору, который запускает аналог видео и показывает, как что-то происходит, особенно, как что-то может пойти не так. Это полная противоположность крайне абстрактным рассуждениям, которые привели к радикальным прорывам в области искусственного интеллекта. Но именно визуальные мыслители вроде меня специально подготовлены к тому, чтобы этот прогресс не стоил слишком дорого.

Для большинства людей ИИ — это абстракция, что-то вроде магии. Это опасно. Нам было бы лучше подумать об этом так же, как о физической инфраструктуре, такой как дороги или перерабатывающие заводы, с их уязвимостями и реальными последствиями. ИИ помогает нашему миру управляться, но любая крупная и мощная коммунальная служба может пойти наперекосяк. За 50 лет работы в промышленности я своими глазами видел цепные реакции, вызванные человеческими ошибками, а также уязвимость наших важнейших инфраструктур, таких как системы водоснабжения и электроснабжения. Эти системы теперь находятся под дальнейшей угрозой, если, например, хакеры возьмут под контроль компьютеры, управляющие оборудованием, — теперь, когда программы ИИ могут писать компьютерный код, это становится еще более реальной опасностью. Лучший способ защитить наши водопроводные и электрические сети — использовать старомодные электромеханические средства управления, которые отключат уязвимое оборудование, если оно станет слишком горячим, вращается слишком быстро или создаст избыточное давление.

Хизер Тал Мерфи

Я видел будущее, которое напугало голливудских актеров

Читать далее

Мне было весело играть с ChatGPT. Я не только расспрашивал его о своей области, но и интересовался его мыслями о фиолетовых летающих зебрах. (Он определил, что такие существа являются вымышленными и питаются облаками и радугой.) Но я также разделяю тревогу, выраженную Сэмом Альтманом, главой OpenAI, создателя ChatGPT, когда он недавно заявил Сенату: «Если эта технология пойдет не так, она может пойти совсем не так». Демонстрируя законодателям, как ChatGPT может состряпать вполне убедительную речь сенатора, Альтман сказал им, что ИИ следует заблокировать от самовоспроизведения или выхода в дикую природу. Программа искусственного интеллекта, создавшая себе клон, может взломать центр обработки данных, причинив невообразимый ущерб, если операторы-люди не будут достаточно бдительны, чтобы вмешаться. Если мы хотим извлечь выгоду из ИИ, особенно теперь, когда инструменты для его уникального использования широко доступны, нам необходимо не только защитить его как важнейшую инфраструктуру, но мы также должны обучать обычных граждан основам самообороны ИИ.