재귀적 자기 개선

재귀적 자기 개선(Recursive self-improvement, RSI)은 초기 또는 취약한 인공 일반 지능(AGI) 시스템이 인간의 개입 없이 자체 능력과 지능을 향상시켜 초지능 또는 지능 폭발로 이어지는 과정이다.[1][2]

재귀적 자기 개선의 개발은 이러한 시스템이 예상치 못한 방식으로 발전할 수 있고 잠재적으로 인간의 통제나 이해를 뛰어넘을 수 있기 때문에 심각한 윤리적 및 안전 문제를 제기한다. 폭주하는 AI 시스템의 잠재적인 위험 때문에 AI 개발을 일시 중지하거나 속도를 늦추도록 추진하는 많은 지지자들이 있었다.[3][4]

같이 보기

각주

  1. Creighton, Jolene (2019년 3월 19일). “The Unavoidable Problem of Self-Improvement in AI: An Interview with Ramana Kumar, Part 1”. 《Future of Life Institute》 (미국 영어). 2024년 1월 23일에 확인함. 
  2. Heighn (2022년 6월 12일). “The Calculus of Nash Equilibria”. 《LessWrong》 (영어). 
  3. Hutson, Matthew (2023년 5월 16일). “Can We Stop Runaway A.I.?”. 《The New Yorker》 (미국 영어). ISSN 0028-792X. 2024년 1월 24일에 확인함. 
  4. “Stop AGI”. 《www.stop.ai》. 2024년 1월 24일에 확인함. 
Prefix: a b c d e f g h i j k l m n o p q r s t u v w x y z 0 1 2 3 4 5 6 7 8 9

Portal di Ensiklopedia Dunia

Kembali kehalaman sebelumnya