AlphaProof, AlphaGeometry, ChatGPT 그리고 신경-기호적 AI의 미래 2024-07

교수님 발췌: “Since LLMs inevitably hallucinate and are constitutionally incapable of checking their own work, there are really only two possibilities: we abandon them, or we use them as components in larger systems that can reason and plan better”

📌 AlphaProof, AlphaGeometry, ChatGPT 그리고 신경-기호적 AI의 미래

Gary Marcus, 2024.07.29

🏛️ Generative AI의 한계와 몰락 가능성

• ChatGPT 등 생성형 AI(GenAI)는 대중의 관심을 끌었으나, 곧 한계를 드러내며 쇠퇴할 전망.

• 주요 문제:

  • 기술적 발전이 정체됨.
  • “킬러 앱"이 없음.
  • 환각(hallucination) 현상 지속.
  • 어처구니없는 오류 존재.
  • 시장 경쟁에서 누구도 확실한 우위를 점하지 못함.
  • 위 문제들이 점점 더 명확해지고 있음.

• 결과적으로 GenAI 붕괴 가능성이 높으나, AI 자체의 발전은 멈추지 않을 것.

• 오히려 AI 발전의 르네상스로 이어질 수도 있음.

🔍 LLM의 근본적 한계

• LLMs(대형 언어 모델)는 이해나 추론을 하지 않음.
• 특정 데이터에 최적화된 “자동완성 시스템"에 불과.
• 예제 기반으로 일반화할 수 있으나, 새로운 변형 문제에는 취약.
• 논리적 사고를 요구하는 문제에서 일관적인 성능을 내지 못함.
• 가장 큰 문제:
  • 자신이 생성한 답을 검증할 능력이 없음.
  • 오류를 인식하고 수정할 메커니즘이 부족함.

🧠 신경-기호적 AI(Neurosymbolic AI)의 필요성

• LLM이 근본적인 한계를 지니고 있으므로, 두 가지 가능성:

  1. LLM을 폐기
  2. LLM을 다른 AI 기법과 결합하여 보완 (신경-기호적 접근)

• 신경-기호적 AI란?

  • 신경망(Neural Networks) → 직관적 패턴 인식 (Kahneman의 System I)
  • 기호적 시스템(Symbolic Systems) → 논리적 추론 및 검증 (System II)
  • 두 접근법을 결합하여 보다 신뢰할 수 있는 AI 구축

🏆 DeepMind의 AlphaProof & AlphaGeometry 2

• **DeepMind(현재 Google DeepMind, GDM)**는 신경-기호적 AI를 적극 활용.
• AlphaProof & AlphaGeometry 2 → 국제 수학 올림피아드(IMO) 은메달 수준 달성.
• AlphaGeometry 2
  • 기하학 문제를 풀기 위한 하이브리드 시스템.
  • 신경망(직관적 아이디어) + 기호적 엔진(논리적 검증) 결합.
• AlphaProof
  • 정리 증명을 위한 시스템.
  • 신경망이 생성한 해를 Lean 증명 보조기(symbolic proof assistant)로 검증.

⚠️ 현재 신경-기호적 AI의 한계

• 자율적이지 않음 → 문제 입력을 사람이 수학적 형식으로 변환해야 함.
• 인공지능이 스스로 문제를 해석하는 수준에 도달해야 함.
• 하지만 DeepMind의 연구는 신경-기호적 AI의 가능성을 보여줌.

🔮 AI의 미래는 신경-기호적 접근법에 달려 있음

• Geoffrey Hinton & Yann LeCun은 신경-기호적 접근을 반대했지만, DeepMind가 이를 실현.
• AI 발전이 더 이상 단순한 “스케일링”(모델을 키우는 것)로 해결되지 않음.
• 새로운 알고리즘 혁신이 필요하며, 기호적 추론을 포함한 AI가 AGI(일반 인공지능)로 가는 길.
• “신경망만으로 AGI를 달성하려는 것은 곰에게 양자역학을 풀라고 하는 것과 같다.”

🏁 결론

• Generative AI는 결국 실패할 가능성이 크다.
• LLM은 자체 검증이 불가능하여 본질적 한계를 지닌다.
• AI가 진정한 추론 능력을 갖추려면 신경망과 기호적 시스템을 결합해야 한다.
• Google DeepMind의 AlphaProof & AlphaGeometry 2가 그 가능성을 입증했다.
• 미래 AI는 “신경-기호적 AI"가 될 것.