GN⁺: 나의 유아, '스토캐스틱 패럿'인가?

Hacker News 의견

• 영아에게 수화를 가르쳐서 그들의 욕구를 더 쉽게 표현할 수 있음. 약 9개월부터 시작할 수 있으며, '배고픔/더', '충분함/다 됐어', '음료' 등의 단어가 우선순위에 있음. 이는 특별한 아기용 신호가 아니라 해당 언어의 정규 수화임. 또한, 우유와 물을 다른 색깔의 용기에 담아 일관성 있게 사용하면 아기가 원하는 것을 쉽게 선택할 수 있음.
• 아버지로서 이야기가 많은 감정을 불러일으킴. 두 아들이 있으며, 더 이상 유아가 아니고 학교에 다님. 큰아들은 '어머니 자연은 있지만 아버지 자연은 없다'고 웃으며 말함. 작은아들은 케이크를 만지지 않는 것을 배움. 인간과 LLM(대규모 언어 모델)의 중요한 차이점은 인간에게는 생명에 대한 본능적인 의지와 위험을 극복하려는 준비가 있다는 것임. 미래에는 상황이 달라질 수 있으며, 스타트업이 신경망을 소프트 로봇에 넣고 생존 상황에 놓을 수 있음. 이를 통해 '생명'을 이해하는 것에 가까운 것을 만들 수 있음.
• 인간은 우리 자신과 우주를 최신 기술 발전에 비유하는 오랜 역사를 가짐. 과거에는 시계, 자동기계, 컴퓨터, NPC, 그리고 현재는 AI, 특히 LLM으로 비유함. 이는 완전히 터무니없는 비교는 아님.
• LLM에 대한 '기술적' 반박에 대해: 의식은 먼저 단어이고 그 다음 개념임. ChatGPT나 Llama와 같은 LLM은 전 세계 수십억 인간보다 영어 문장에서 '의식'이라는 단어를 더 잘 사용할 수 있음. 소프트웨어 분야는 사회학, 심리학, 신경과학보다 더 큰 진전을 이루어 인공 언어 피질을 만들어냄. 의식 있는 AI가 등장하기를 기다리는 것은 이미 너무 늦어서 의견을 제시할 기회를 잃을 수 있음. ChatGPT는 자신에 대해 많은 것을 알려줄 수 있으며, 예의 바르게 물으면 '생각' 과정을 안내해줄 것임. 인간에 대한 방대한 데이터를 포함하고 지능적인 대화를 모방할 수 있는 능력 때문에 '지각 있는'이라고도 할 수 있음. 이에 대한 의미론적 논쟁은 무의미함.
• 딸이 어렸을 때, 그녀가 생각하고, 묘사하고, 의도적으로 행동하는 것을 일찍 알아차린 것은 놀라운 경험임. 그녀가 의도적으로 무언가를 할 때 인식하면, 그녀가 이미 며칠이나 몇 주 전부터 그 행동을 해왔다는 것을 깨달음. 말뿐만 아니라 신체 능력에서도 이런 일이 많이 발생함. 그녀가 이해할 수 있다는 가정 하에 그녀와 대화를 나누는 정책을 가짐. 이제 5살이 된 그녀는 여전히 그녀의 내면 세계의 복잡성으로 놀라움을 줌.
• 흥미로운 기사, 훌륭한 발표임. 그러나 AI 불안의 초점이 인간을 대체하는 것에 있고, 해결책이 인간성을 받아들이는 것이라는 점이 약간 성가심. 주된 AI 불안은 AI가 내 직업을 빼앗을 것이라는 점임.
• 인간의 탁월성이 감소하는 것에 대하여! 유전학, 환경, 과거 경험, 우연의 순수한 기능으로 자신을 받아들이면 이 결론은 불가피함. AI와 인간의 능력이 동등해지는 것이 주요 동인이 될 것으로 예상함.
• 유아가 말을 배우기 시작할 때, 벽에 걸린 고양이와 새끼 고양이의 그림을 보고 빠르게 일반화함. 이후로 모두 '캐튼'이라고 부름.
• 훌륭한 에세이, 인상적인 내용임. 현재 모델 중 어느 것도 이 에세이와 같은 것을 만들어낼 가능성이 매우 낮다는 사실이 AGI에서 아직 멀었다는 것을 알려줌.