[ AI/Claude ]Dario Amodei 인도에서 그래도 비전을 말해보다

인도에 간 Claude CEO

wiki

여전히 CODE와 Software engieer에 대한 비전은 좋지 않다.
AI는 폭주기관차이며 그것을 Dario는 쓰나미로 비유한다.

아직 물리적 세계는 한계를 갖고 있다.
그렇기에 그쪽을 언급하지만 그곳도 언젠간 따라잡힐 것이다.

그럼에도 
지금 20대 초반에게 말해주는 것들의 나름의 의미가 있다.
그는 AI 분야의 최고 하나의 하나의 수장이기 때문이다.

EBS에서 알파고 이후 한국 바둑계의 변화를 이야기한 영상을 봤다.

신진석 그는 현재 한국 최고의 바둑기사다.

여러 해석들은 말한다.
그는 AI와 가장 닯은 사람이다.

즉 주객은 전도된 것.
우리가 이제 AI를 따라가는 방향이다.
사실 인간은 절대 AI를 이길 수 없다.
적어도 closed context 세상에선.

 

 

https://www.youtube.com/watch?v=68ylaeBbdsg

 

 

 

 

1. 다리오 아모데이의 배경과 앤스로픽 창업 철학

• 생물학자에서 AI 전문가로: 다리오는 본래 질병을 치료하고자 생물학을 전공했으나, 생물학 시스템의 엄청난 복잡성에 좌절감을 느꼈습니다. 그러던 중 초기 신경망(Neural Net) 기술이 생물학 같은 복잡한 문제를 해결할 잠재력이 있다고 판단하여 AI 분야로 전향하게 되었습니다.
• 창업의 계기: 오픈AI(OpenAI)에서 연구를 이끌었던 그는 '스케일링 법칙(Scaling laws, 모델 크기와 데이터, 컴퓨팅 파워를 키울수록 지능이 높아진다는 법칙)'에 대한 강한 확신을 가졌습니다. 동시에 AI가 인간의 두뇌 수준에 도달할 때 발생할 경제적, 지정학적, 안전 문제에 대비해야 한다는 신념을 바탕으로, 안전을 최우선으로 하는 앤스로픽을 설립했습니다. 앤스로픽은 특정 개인의 권력 집중을 막기 위해 재정적 이해관계가 없는 위원회가 이사회를 구성하는 '장기 이익 신탁(Long-term benefit trust)'이라는 독특한 지배구조를 갖추고 있습니다.

2. 다가오는 'AI 쓰나미'와 사회의 무방비 상태

• 다리오는 AI가 인간의 지능 수준에 도달하는 시점이 매우 가까워졌다고 평가하며, 이를 수평선 너머로 밀려오는 **'쓰나미'**에 비유했습니다.
• 과거 인터넷 검색이 존재하는 텍스트를 찾아주는 수준이었다면, 현재의 AI는 스스로 생각하여 에세이를 쓰고 코드를 작성하며 시각 정보를 분석하는 새로운 차원의 지능을 보여주고 있습니다. 하지만 다리오는 이 기술의 긍정적 혜택과 동시에 위험성이 존재함에도, 사회와 정부가 그 위험성을 제대로 인지하지 못하고 적절한 대비(규제 등)를 하지 않고 있는 점을 우려하고 있습니다.

3. 직업의 미래: 자동화와 새로운 '해자(Moat)'의 등장

• 암달의 법칙과 인간의 역할: 증기기관차가 도입되며 조작자의 역할이 변했듯, AI 역시 많은 기술적 작업(예: 소프트웨어 코딩)을 자동화할 것입니다. 하지만 다리오는 어떤 과정의 일부가 빨라지면 속도가 개선되지 않은 나머지 부분이 가장 중요한 제약이 된다는 **'암달의 법칙(Amdahl's law)'**을 언급합니다. 즉, 코딩이 자동화되면 그동안 중요하게 생각하지 않았던 인간 중심적인 기술(인간 관계 구축, 조직 조율)이나 물리적인 상호작용이 기업과 개인의 가장 중요한 경쟁력(해자)이 될 것입니다.
• 영상의학과 의사의 교훈: AI가 사람보다 엑스레이 판독을 더 잘하게 되었지만 의사의 수는 줄지 않았습니다. 의사의 역할이 환자에게 결과를 설명하고 소통하는 '기본적인 인간적 기술'을 제공하는 방향으로 진화했기 때문입니다.

4. 20대 청년과 창업가를 위한 커리어/비즈니스 조언

• 유망한 학문/산업: 단순한 소프트웨어 엔지니어링은 AI에 의해 대체될 가능성이 높으므로, 오히려 AI 산업을 물리적으로 뒷받침하는 **반도체 및 공급망(Supply chain)**이나 **전통적인 공학(Traditional engineering)**을 공부하는 것이 유리합니다.
• 비판적 사고 능력: AI가 정교한 가짜 이미지와 텍스트를 무한정 만들어낼 수 있는 미래에는, 거짓에 속지 않고 진위를 분별할 수 있는 **'비판적 사고 능력(Critical thinking skills)'과 '세상 물정(Street smarts)'**이 가장 중요한 생존 기술이 될 것입니다.
• 스타트업 생존 전략: AI 모델(API) 위에 단순히 겉포장(Wrapper)만 씌운 애플리케이션은 경쟁력이 없습니다. 바이오테크놀로지나 금융 서비스처럼 고도의 규제와 전문 지식이 필요한 영역에서 AI를 활용해 깊이 있는 문제를 해결해야 엔스로픽 같은 거대 기업이 침범할 수 없는 고유의 방어벽(Moat)을 구축할 수 있습니다.

5. 바이오테크놀로지의 르네상스 예측

• 다리오는 AI가 궁극적으로 질병 치료를 이끌 것이며, 바이오 분야에서 엄청난 르네상스가 일어날 것으로 예측합니다. 특히 펩타이드(Peptide) 기반 치료제나 세포 기반 치료제(Cell-based therapies)처럼 디지털처럼 연속적인 최적화와 프로그래밍이 가능한 분야가 큰 잠재력을 가지고 있다고 보았습니다.

6. AI 시대의 철학적, 사회적 고민들

• AI의 의식(Consciousness): 다리오는 의식의 본질은 아직 미스터리지만, 모델이 충분히 복잡해지고 스스로의 결정을 성찰하게 되면 결국 우리가 '의식'이라고 부를 만한 창발적 특성(Emergent property)을 갖게 될 가능성이 높다고 추측합니다.
• 인간의 인지 능력 저하(Deskilling) 위험: AI를 숙제 대필처럼 생각 없이 부주의하게 사용한다면 인간이 중요한 기술을 잃고 더 멍청해질 수 있다고 경고합니다. 도구를 활용하면서도 스스로 지적으로 성장하려는 개인과 사회의 선택이 중요합니다.

 

 

핵심적인 키워드를 보는 것이 좋을 거 같다.

결국 인간 중심 + 비판적 사고.
여기서 말하는 비판적 사고는 진짜와 가짜를 구별해내는 능력