[차한잔]  촘스키가 ChatGPT에 대해 한 말씀 하셨네요.

스치고 지나가서 잊었던 기사였는데 프레시안에 기사 났다고 구글이 알려줘서 잘됐다 하며 공유합니다. 

 

낙관과 동시에 우려가 있는데 그렇다고 흐름을 막을 수 없는 게 인공지능 시대의 도래라고 저도 생각하는데요.

 

마스터 알고리즘 저자인 페드로 도밍고스는 절대로 특이점 같은 것은 일어나지 않는다고 하면서도 만일 특이점이 있다면 이미 시작되었다고 썼습니다. 피할 수 없다면 즐겨야죠.  짧은 제 소견이라면 이제 막 수정란이 핵분열하려는 찰나 아닐까 합니다. 이후 인공지능이 똑똑해지는 속도가 얼마나 빠를지는 아무도 예측할 수 없지 않겠습니까?

 

 

  

Note, for all the seemingly sophisticated thought and language, the moral indifference born of unintelligence. Here, ChatGPT exhibits something like the banality of evil: plagiarism and apathy and obviation. It summarizes the standard arguments in the literature by a kind of super-autocomplete, refuses to take a stand on anything, pleads not merely ignorance but lack of intelligence and ultimately offers a “just following orders” defense, shifting responsibility to its creators.

In short, ChatGPT and its brethren are constitutionally unable to balance creativity with constraint. They either overgenerate (producing both truths and falsehoods, endorsing ethical and unethical decisions alike) or undergenerate (exhibiting noncommitment to any decisions and indifference to consequences). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity.

 

겉으로 보기에 세련된 사고와 언어에도 지능이 없는 데서 비롯된 도덕적 무관심은 존재한다는 점에 유의하세요. 여기서 ChatGPT는 표절과 무관심, 그리고 무책임이라는 악의 평범함과 같은 것을 보여줍니다. 그것은 일종의 초자동 완성으로 문헌의 표준 주장을 요약하고, 어떤 입장도 취하지 않고, 단순한 무지가 아니라 지능 부족을 호소하며, 궁극적으로 "명령을 따랐을 뿐"이라는 변호를 제공하여 책임을 제작자에게 전가합니다.

요컨대, ChatGPT와 그 형제들은 헌법적으로 창의성과 제약의 균형을 맞출 수 없습니다. 그들은 과잉 생성(진실과 거짓을 모두 생산하고, 윤리적 결정과 비윤리적 결정을 모두 지지)하거나 과소 생성(어떤 결정에도 헌신하지 않고 결과에 무관심한 태도를 보임)합니다. 이러한 시스템의 부도덕성, 가짜 과학, 언어적 무능력을 고려할 때, 우리는 이러한 시스템의 인기에 웃거나 울 수밖에 없습니다.

Translated with www.DeepL.com/Translator (free version) 

 

촘스키 "챗GPT가 보여주는 악의 평범성, 표절·무시·생략"

https://m.pressian.com/m/pages/articles/2023031005480807461#0DKW 

https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html