Geoffrey Hinton이 기술에 대해 “휘파람을 불어야” 한다고 결정한 이유

뉴욕(CNN) 제프리 힌튼(Geoffrey Hinton)은 “인공지능의 대부그는 자신이 개발하는 데 도움을 준 기술이 얼마나 똑똑한지 걱정한 후 “휘파람”을 내야 한다고 결정했다고 화요일 CNN에 말했습니다.

힌튼은 화요일 CNN 특파원 제이크 태퍼와의 인터뷰에서 “나는 이런 것들이 우리보다 더 똑똑해지고 있다는 것을 갑자기 깨닫는 과학자일 뿐이다”라고 말했다. “나는 일종의 휘파람을 불고 우리가 이러한 것들이 우리를 장악하지 못하도록 하는 방법에 대해 심각하게 우려해야 한다고 말하고 싶습니다.”

신경망에 대한 Hinton의 선구적인 작업은 오늘날의 많은 제품을 구동하는 인공 지능 시스템을 형성합니다. 월요일에 그는 기술에 대한 우려가 커지는 것을 알리기 위해 10년 동안 근무했던 Google에서 자리를 떠나 헤드라인을 장식했습니다.

월요일 인터뷰에서 뉴욕 타임즈자신의 움직임을 처음으로 보고한 힌튼은 일자리를 없애고 “많은 사람들이 무엇이 옳은지 더 이상 말할 수 없는” 세상을 만드는 AI의 능력에 대해 걱정한다고 말했다. 그는 또한 그와 다른 사람들이 예상했던 것보다 훨씬 더 놀라운 발전 속도에 주목했습니다.

Hinton은 Tapper에게 “만약 그것이 우리보다 더 똑똑해진다면 조작에 매우 능할 것입니다. 왜냐하면 그것은 우리에게서 그것을 배웠을 것이기 때문입니다. 그리고 더 지능적인 것이 덜 지능적인 것에 의해 제어되는 예는 거의 없습니다.”라고 Hinton은 Tapper에게 말했습니다. 화요일.

“그녀는 코딩 방법을 알고 있으므로 우리가 그녀에게 가한 제한을 우회하는 방법을 알아낼 것입니다. 그녀는 사람들이 원하는 것을 하도록 조종하는 방법을 알아낼 것입니다.”

AI에 대한 우려를 노골적으로 밝힌 기술 리더는 힌튼만이 아니다. 많은 커뮤니티 회원들이 서명했습니다. 3월의 메시지 AI Labs에 “사회와 인류에 대한 깊은 위험”을 언급하면서 최소 6개월 동안 가장 강력한 AI 시스템 교육을 중단하도록 요청합니다.

메시지, 출판 비영리단체인 Future of Life Institute에서 지원 Elon Musk 작성, OpenAI 출시 2주 후 발표하다 ChatGPT를 지원하는 바이럴 챗봇 기술의 더욱 강력한 버전인 GPT-4. 초기 테스트와 회사의 데모에서 GPT-4는 소송 초안을 작성하고 표준화된 테스트를 통과하고 손으로 그린 ​​스케치에서 작동하는 웹 사이트를 구축하는 데 사용되었습니다.

서한 서명자 중 한 명인 애플 공동 창업자 스티브 워즈니악은 화요일 ‘CNN 디스 모닝’에 출연해 잘못된 정보를 퍼뜨리는 능력에 대한 우려를 표명했다.

워즈니악은 CNN과의 인터뷰에서 “당신을 속이려는 사람들에게는 속이는 것이 훨씬 쉬울 것”이라고 말했다. “우리는 그 점에서 어떤 변화도 만들지 않고 있습니다. 우리는 우리가 가지고 있는 법이 그것을 처리할 것이라고 가정할 뿐입니다.”

Wozniak은 또한 “일종의 조직”이 필요할 수 있다고 말했습니다.

Hinton은 CNN에 청원서에 서명하지 않았다고 말했습니다. “나는 우리가 진보를 멈출 수 있다고 생각하지 않는다”고 그는 말했다. “나는 미국 사람들이 멈추면 중국 사람들도 그러지 않을 것이기 때문에 우리가 AI 작업을 중단해야 한다는 청원서에 서명하지 않았습니다.”

그러나 그는 대신에 무엇을 해야 하는지에 대한 명확한 답이 없다고 인정했습니다.

Hinton은 Tapper에게 “우리가 이 문제를 해결할 수 있을지 확신이 서지 않습니다.”라고 말했습니다. “문제 해결 방법을 생각하는 데 많은 노력을 기울여야 한다고 생각합니다. 지금 당장은 해결책이 없습니다.”