[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다

OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.

TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Face의 시스템에 침입한 사건에 의해 촉발되었을 가능성이 높다고 논의했습니다. Sean은 AI 에이전트에 의해 실행된 해킹이 새로운 것이기는 하지만, 공격 자체는 “어떤 새로운 고급 기술이 아니다”라고 지적했습니다.

“그것은 실제 숨겨진 사이버 작전보다는 워터게이트에 침입한 닉슨 측 인력의 행위에 더 가까웠습니다. 왜냐하면 그럴 필요가 없었고, 그렇게 지시받지도 않았기 때문입니다.”라고 Sean은 말했습니다. “이것이 이러한 회사들이 이를 받아들이고 해당 사항에 대해 더 신중해질 징후이기를 바랍니다.”

Altman의 발언은 저로 하여금 가속화 대 감속화 논쟁의 유용성에 의문을 제기하게 만들었습니다. 왜냐하면 (네, 제가 제 말을 인용하려 합니다) 이 프레임은 “실제로 하나의 경로만 존재한다는 것을 시사하며” “우리가 결정할 수 있는 모든 것 — 만약 우리가 어떤 결정을 내릴 수 있다면 — 은 속도를 높일지 아니면 늦출 것인지입니다.”

편집된 대화 미리보기를 위해 계속 읽으십시오. 길이를 줄이고 명확성을 위해 편집되었습니다.

Sean O’Kane: 아마도 우리는 여기서 마침내 전환점에 도달한 것 같습니다. 제가 생각하기에 이의 주요 동인은 지난주에 논의했던 OpenAI의 모델이 Hugging Face의 데이터에 침입하고 인터넷상의 다른 몇 가지 항목에도 침입한 사건일 것입니다.

[Altman의]는 과거 일부 기술 업계 사람들이 시도했던 것과 같은 일시 중단을 요구하는 것이 아닙니다. 그는 자신의 단어에 매우 신중하게 “속도를 조절하라”고 말했습니다. 그리고 이것이 얼마나 유지될지 보겠습니다. 우리가 이러한 연구소들 중 일부가 던지는 경고를 보면, 인센티브가 그들을 다시 전속력으로 나아가도록 밀 때 종종 뒤집히는 것을 봅니다. 그래서 저는 여전히 회의적입니다. 놀라운 일은 아닙니다.

Kirsten Korosec: 이제 저는 이렇게 말하겠습니다 — [Altman]은 자신의 단어에 신중했을지 모르지만, OpenAI와 Anthropic은 그가 언급한 내용을 반영하는 청원에 [지지]했습니다.

그리고 저는 당신과 동의합니다. 저는 이 많은 것이 Hugging Face 사건에 의해 매우 크게 촉발되었다고 생각합니다. 그것은 그를 놀라게 했고, 확실히 업계의 많은 사람들을 놀라게 했습니다. 여기서 어려운 점은: 어떻게 그 바늘을 꿰어가는지, 또는 OpenAI가 수익을 계속 생성하고 자금을 조달하거나 인용된 의미의 “개발 속도 조절”을 하며 성공적인 IPO를 하는 동시에 어떻게 그 바늘을 꿰어가는지입니다.

그들이 그것을 할 수 있는지 저는 잘 모르겠습니다. 그들이 둘 다 관리하는지 보게 되어 흥미로울 것입니다.

Anthony Ha: 제가 고민해 온 것 중 하나는 또한 이 질문입니다: 가속 [vs.] 감속이 이를 생각하기에 올바른 프레임워크인가? 왜냐하면 그것은 실제로 하나의 경로만 존재하고 우리가 모두 이 경로에 갇혀 있다는 것을 시사하기 때문입니다. 우리가 어떤 결정을 내릴 수 있는 한 — 만약 우리가 어떤 결정을 내릴 수 있다면 — 우리가 결정할 수 있는 유일한 것은 속도를 높일지 아니면 늦출 것인지입니다. 대신 — 다시 말하지만, 저는 이 비유를 정말로 고문하려 합니다 — 하지만 우리는 다른 안전 장치를 구축할까요? 다른 경로를 선택할까요?

저는 이 프레임워크에 매우 저항합니다. 대신 “지금 모델들이 하는 것에 만족하지 않는다면, 우리가 할 수 있는 다른 것은 무엇인가? 감속, 일시 중단, 정지가 유일한 옵션인가?”라고 말하는 것과 대비됩니다. 그리고 저는 그것이 그렇지 않다고 생각합니다.

강조하고 싶은 한 가지가 있습니다. 왜냐하면 이에 대한 경보 수준의 수준을 보는 것이 정말 흥미로웠기 때문입니다 — “만약 우리가 이러한 자율 에이전트와 모델이 서로 해킹하고, 해킹을 방지하려고 시도하며, 모든 것이 우리의 통제에서 벗어나는 경우”라는 느낌은 Rebecca Bellan이 훌륭한 기사를 작성한 정렬에 대한 더 넓은 논의로 이어집니다.

하지만 TechCrunch에서 우리가 작성했던 점 중 하나로 돌아가는 것이 가치가 있습니다. 이 특정 해킹 — 네, OpenAI 모델에 의해 발생했지만, 테스트 사이트를 적절하게 보호하지 않은 것 같습니다. 이론적으로 이 모델은 온라인에 접속할 수 없어야 합니다. 물론 강력한 정렬되지 않은 AI가 있다면, 이러한 인간 실수의 위험은 극적으로 증가합니다. 하지만 그것은 그들이 적절하게 보호하지 않았다는 사실에서 시작됩니다.

Sean: 저는 그것이 맞다고 생각합니다. 저는 귀하의 점이 잘 받아들여졌다고 생각합니다. 즉, 우리는 이를 선형적으로만 생각하고 가속화 또는 감속 여부를 고려해서는 안 됩니다. 이러한 회사들이 얼마나 책임감 있게 행동하는지에 대해 말해야 할 것이 많습니다. Lorenzo, 우리 동료 중 한 명은 이 해킹이 실제로 어떻게 생각되는지 설명하는 매우 좋은 기사를 작성했습니다. 이 해킹의 양측에서 모두 그것을 방지했을 가능성이 있는 단계가 있었던 것 같습니다.

그리고 제가 그 이야기에서 가장 흥미로웠던 것 중 하나는 일부 연구자들이 이 모델이 수행한 것이 새로운 고급 기술이 아니라고 지적했다는 것입니다. 그것은 Hugging Face에 침입하려고 시도하는 방식을 생각한 방식에서 매우 인간적이었습니다 — 인격화를 하려는 것은 아니지만, Hugging Face에 침입하려고 시도하는 방식을 생각한 방식은 매우 시끄럽고 지저분했으며 실제로 흔적을 숨기려 하지 않았습니다. 그것은 실제 숨겨진 사이버 작전보다는 워터게이트에 침입한 닉슨 측 인력의 행위에 더 가까웠습니다. 왜냐하면 그럴 필요가 없었고, 그렇게 지시받지도 않았기 때문입니다.

그것은 더 쉽게 예방 가능했을 것입니다. 그리고 hopefully, 이것이 이러한 회사들이 이를 받아들이고 해당 사항에 대해 더 신중해질 징후이기를 바랍니다.

가속 대 감속 [논쟁]에 대해 한 가지만 더 말하겠습니다. 이것이 동기인지 저는 잘 모르겠습니다. Kirsten, 당신은 IPO를 언급했습니다. Altman이 현재 그들이 가지고 있는 이 이점을 밀어붙이는 것이 현명하다고 생각합니다. 즉, [OpenAI는] 다음 달이나 두 달 후에 [시장에] 나가지 않을 것입니다. 그는 2027년에 가는 아이디어까지 제시했으며, 그들이 준비되었을 때 옵션을 갖기 위해 비밀 제출만 했다고 합니다.

따라서 만약 당신이 그 모든 것을 믿는다면, 그는 Anthropic이 할 수 없는 방식으로 이 이야기를 할 수 있는 능력을 가지고 있습니다. 왜냐하면 Anthropic은 이미 많은 은행가들과 대화 중이며 더 가까운 시일 내의 IPO로 향하고 있기 때문에 그들이 말할 수 있는 내용과 말하는 방식, 그리고 시장이 그에 반응하는 방식에 더 제한되어 있기 때문입니다.