AI 발전 속도와 첨단 AI 시스템의 특성과 영향에 대해 예측한 사상 최대 규모의 설문조사 결과

 최고 수준의 인공지능(AI) 학술지에 논문을 게재한 2,778명의 연구자들이 AI 발전 속도와 첨단 AI 시스템의 특성과 영향에 대해 예측한 사상 최대 규모의 설문조사 결과, 2028년까지 AI 시스템이 결제 처리 사이트를 처음부터 자율적으로 구축하고, 인기 뮤지션의 신곡과 구별할 수 없는 노래를 만들고, 대규모 언어 모델을 자율적으로 다운로드하고 미세 조정하는 등 여러 이정표를 달성할 확률이 50% 이상일 것으로 예측되었습니다. 

 

 과학의 발전이 멈추지 않는다면 모든 가능한 작업에서 인간을 능가하는 기계가 등장할 가능성은 2027년에는 10%, 2047년에는 50%에 달할 것으로 예상됩니다. 후자의 추정치는 불과 1년 전에 실시한 유사한 설문조사에서 나온 결과보다 13년이나 앞당겨진 것입니다[Grace 외, 2022]. 그러나 모든 직업이 완전 자동화될 가능성은 2037년에는 10%, 늦어도 2116년에는 50%에 달할 것으로 예측되었습니다(2022년 조사에서는 2164%).

 대부분의 응답자는 AI 발전의 장기적 가치에 대해 상당한 불확실성을 표명했습니다: 68.3%는 초인간적 AI가 가져올 좋은 결과가 나쁜 결과보다 많다고 생각했지만, 이들 순 낙관론자 중 48%는 인류 멸종과 같은 극도로 나쁜 결과가 발생할 가능성을 5% 이상, 순 비관론자 중 59%는 극도로 좋은 결과가 발생할 가능성을 5% 이상 제시했습니다. 응답자의 38%에서 51%는 인공지능의 발전이 인류 멸종과 같은 나쁜 결과를 초래할 가능성이 10% 이상이라고 답했습니다. 

 

 응답자의 절반 이상이 잘못된 정보, 권위주의적 통제, 불평등 등 6가지 AI 관련 시나리오에 대해 '상당한' 또는 '극단적인' 우려가 필요하다고 답했습니다. AI의 빠른 발전과 느린 발전 중 어느 쪽이 인류의 미래를 위해 더 나은지에 대해서는 의견이 분분했습니다. 그러나 AI 시스템의 잠재적 위험을 최소화하기 위한 연구에 더 많은 우선순위를 두어야 한다는 데는 폭넓은 동의가 있었습니다.

arXiv: https://arxiv.org/abs/2401.02843
Browse: https://browse.arxiv.org/pdf/2401.02843.pdf
PDF: https://arxiv.org/pdf/2401.02843.pdf 
arXiv-vanity: https://www.arxiv-vanity.com/papers/2401.02843 
Paper page: https://huggingface.co/papers/2401.02843