'자신의 AI를 가져 오십시오'트렌드는 비즈니스 리더에게 큰 문제를 일으킬 수 있습니다.

모든 산업에서 기업들은 경쟁에서 앞서기 위해 인공지능(AI)의 힘을 활용하고자 열망하고 있습니다. 고위 경영진은 이러한 새로운 기술의 책임 있고 효과적인 사용을 보장하기 위해 필요한 지침과 안전 장치를 마련해야 합니다.

브리스톨 대학교의 최고 디지털 및 정보 책임자인 키스 울리(Keith Woolley)는 영국 최고의 학술 기관 중 하나에서 AI를 통합하는 데 앞장서고 있습니다. 브리스톨은 영국에서 가장 빠른 슈퍼컴퓨터인 Isambard-AI를 호스팅하는 최첨단 기술의 중심지일 뿐만 아니라, 조직 전반에 걸쳐 AI 적용의 경계를 넓히고 있습니다.

일상적인 전문가들이 AI를 사용하다

브리스톨이 학문적 노력 전반에 걸쳐 혁신을 촉진하기 위해 AI를 활용하려는 가운데, 울리는 ZDNET과의 인터뷰에서 교육, 행정, 연구에 종사하는 일상적인 직원들도 이러한 신흥 기술을 활용하고 있다고 밝혔습니다.

클라우드 서비스가 한때 채택되었던 것처럼, 울리는 전문가들이 이제 Bring Your Own AI(BYOAI)로 알려진 방식으로 자신만의 기술 선택을 하고 있다고 지적했습니다. “그것은 이미 일어나고 있다”고 그는 말하며, 클라우드 기술의 광범위한 수용과 공급자들이 AI를 서비스에 통합하려는 급격한 움직임으로 인해 이러한 기술이 IT 부서의 인지 없이 조직에 침투할 수 있다고 언급했습니다.

“이미 부서들이 이제 기관에 도구를 구축하거나 도입하고 있는 모습을 보고 있습니다. 왜냐하면 당신에게 SaaS 시스템을 제공하는 모든 공급자가 그 안에 AI를 추가하고 있기 때문입니다”라고 울리는 설명했습니다.

Bring Your Own AI는 성장하는 트렌드

BYOAI는 다른 전문가들에 의해 점점 더 트렌드로 인식되고 있습니다. MIT 정보 시스템 연구 센터의 연구에 따르면, 직원들이 승인되지 않은 공개 생성 AI 도구를 업무에 사용할 때 이 트렌드가 나타납니다.

울리는 사용자나 공급자에 의한 AI의 은밀한 도입이 그의 팀과 대학의 리더십에 상당한 도전을 제기한다고 우려를 표했습니다. “Bring Your Own AI는 도전입니다”라고 그는 언급했습니다. “드롭박스나 다른 클라우드 제공자들로부터 네트워크에 스토리지가 나타나는 것을 보았던 때와 비슷합니다. 사람들이 신용카드를 꺼내서 물건을 공유하기 시작할 수 있다고 생각했는데, 그건 좋지 않습니다.”

MIT의 연구는 울리의 우려를 뒷받침하며, 생성 AI 도구가 생산성 향상을 약속하지만 데이터 손실, 지적 재산 유출, 저작권 위반, 보안 침해와 같은 위험도 초래한다고 강조합니다.

울리는 브리스톨의 주요 우려는 AI 지원 SaaS 서비스가 데이터를 처리하고 공유하는 방식에 대한 통제력 상실 가능성이라고 강조했습니다. “우리가 안전한 SaaS 환경에 있다고 생각하는 데이터가 시스템에 의해 공개 AI 모델에서 실행될 수 있습니다”라고 그는 말했습니다.

위험 완화를 위해 생성 AI 금지

그렇다면 조직은 BYOAI의 부상을 어떻게 해결할 수 있을까요? 한 가지 방법은 경영진이 생성 AI를 전면 금지하는 것입니다. 그러나 MIT의 연구는 비즈니스 리더들이 생성 AI에 개방적인 태도를 유지하고 BYOAI를 혁신의 원천으로 전환하기 위한 명확한 지침을 제공할 것을 권고합니다.

울리는 응하며, 응용 프로그램 경계에 대한 엄격한 통제가 BYOAI를 관리하는 가장 좋은 방법이라고 주장했습니다. “정책 시행은 우리 조직 내부에서 논의 중인 주제입니다. 사람들이 무엇을 할 수 있고 할 수 없는지에 대한 가드레일을 제공하고 있습니다”라고 그는 말했습니다.

대학은 AI의 통제되지 않은 확산을 억제하기 위해 승인된 도구 세트를 시작하고 있습니다.

학생들이 AI를 사용하고 싶어하다

이러한 지침의 맥락을 설정하기 위해, 브리스톨의 고위 경영진은 교육에서 생성 AI 사용에 대한 학생들의 관점을 이해하기 위해 학생들과 대화했습니다. “AI를 학습, 등록, 채점 등 모든 것에 어떻게 사용할지에 대한 대화로 이어졌습니다”라고 울리는 회상했습니다.

놀랍게도 학생들은 AI 사용을 강력히 지지했습니다. “놀라웠던 점은 학생들이 우리가 AI를 사용하기를 얼마나 원했는지였습니다. 학생들이 분명히 밝힌 것 중 하나는 우리가 AI 사용을 허용하지 않으면, 기회를 제공하는 다른 이들에 비해 시장에서 불리할 것이라는 점이었습니다”라고 울리는 공유했습니다.

그는 생성 AI의 도입을 교실에서 계산기가 처음 등장했던 시기와 비교했습니다. 처음에는 계산기가 부정행위를 조장할 수 있다는 우려가 있었지만, 이제는 수학 교육의 필수 요소가 되었습니다. 울리는 생성 AI도 비슷한 궤적을 따를 것이라고 예측했습니다.

“우리는 커리큘럼과 그 기술을 사용한 학습 능력을 재고해야 할 것입니다”라고 그는 말했습니다. “다음 세대 학생들에게 AI를 통해 제공되는 정보를 구별하도록 가르쳐야 합니다. 그 부분을 해결할 수 있다면, 우리는 괜찮을 것입니다.”

브리스톨은 울리가 언급한 바와 같이, “우리는 AI가 직원, 학생, 연구자를 돕는 데 있으며, 실용적이고 가능한 곳에서 서비스를 자동화하는 것에 대해 명확히 했습니다”라고 주의 깊게 교육에 생성 AI를 통합하려고 합니다.

핵심 고려사항

그러나 AI의 잠재력을 인식하는 것은 시작에 불과합니다. 울리는 신흥 기술과 관련된 비용이 하키 스틱처럼 급격히 상승한다고 설명했습니다. 엄격한 규칙과 규정이 없으면, 사용자가 자신의 AI 도구를 가져오도록 허용할 경우 이러한 비용이 폭등할 수 있습니다.

대학의 고위 경영진은 몇 가지 핵심 고려사항에 집중하고 있습니다. “첫 번째 질문은 ‘우리가 얼마나 많은 실패를 원하는가?’입니다. 왜냐하면 AI는 현재 추측 엔진이고, 그것이 가진 정보에 따라 가정을 하기 때문입니다. 그 정보가 약간 잘못되었다면, 약간 잘못된 답변을 얻게 됩니다”라고 울리는 설명했습니다.

“그래서 우리는 어떤 서비스를 제공할 수 있는지 살펴보고 있습니다. 정책과 프로세스를 마련했지만, 모든 것이 너무 빨리 변하기 때문에 이는 살아있는 문서입니다. 우리는 변화를 신중히 추진하려고 합니다”라고 그는 덧붙였습니다.

장기적으로 울리는 브리스톨이 세 가지 잠재적 접근 방식을 보고 있다고 밝혔습니다: 교육 시스템의 일부로 생성 AI를 소비하거나, 기존 모델에 데이터를 공급하거나, 경쟁적 차별화 요소로 언어 모델을 개발하는 것입니다. “그것이 우리가 논의 중인 주제입니다”라고 그는 말했습니다. “그리고 올바른 접근 방식이 선택되면, AI를 사용하는 방식에 따라 정책을 만들 수 있습니다.”

이 접근 방식은 알래스카 통신 회사 GCI의 엔터프라이즈 클라우드 플랫폼 부사장인 로저 조이스(Roger Joys)의 견해와 일치합니다. MIT와 울리처럼, 조이스는 생성 AI를 안전하게 도입하기 위해 정책과 프로세스의 중요성을 강조했습니다. “우리 데이터 과학자들이 검토되고 승인된 모델의 큐레이션된 목록을 갖기를 바랍니다”라고 그는 BYOAI의 부상에 대해 언급하며 말했습니다. “그러면 ‘이 모델들 중에서 선택할 수 있다’고 말할 수 있으며, 그들이 원하는 대로 또는 찾은 것을 사용하는 대신입니다.”

조이스는 경영진이 과대 광고를 뚫고 사람들이 도전을 탐색할 수 있도록 돕는 수용 가능한 사용 정책을 수립할 것을 조언했습니다. “비즈니스 사례를 찾으세요”라고 그는 말했습니다. “꼭 느리게 움직일 필요는 없지만, 알려진 목표를 향해 체계적으로 움직이고, AI의 가치를 보여줍시다.”