책임 있는 AI를 통해 미래를 앞당기자
한국 마이크로소프트, 권오성 상무
지난해 여름, Microsoft 리더들과 “책임 있는AI” (Responsible AI, RAI) 전문가들이 현재 ChatGPT로 알려진 OpenAI의 기술을 사용하기 시작했습니다. 2019년부터 OpenAI의 ChatGPT 개발자와 긴밀히 협력해 온 사람들에게도 최근 AI의 급격한 발전은 놀랍다고 합니다. 2033년경에나 가능할 것으로 예상했던 AI 결과물이 2023년으로 앞당겨진 것입니다. 우리 업계의 역사를 되돌아보면 폭발적인 증가의 분수령이 되는 시기가 있었습니다. 예를 들어, 1995년 브라우저의 인기와 함께 인터넷 사용량이 폭발적으로 증가했고, 2007년에는 아이폰이 출시되면서 스마트폰의 성장이 가속화되었습니다.
이제 2023년이 AI의 중요한 변곡점이 될 가능성이 높습니다. AI는 인류에게 엄청난 기회를 제공할 것이고 AI 기술을 개발하는 우리에게는 더 큰 책임을 요구할 것입니다. 우리는 이 분수령의 시기를 새로운 AI 기술을 출시하는 데 그치지 않고, 앞으로 다가올 가능성과 위험에 책임감 있고 효과적으로 대처할 수 있는 기회로 삼아야 합니다. AI는 위험 부담이 높지만 인류의 역사에서 가장 중요한 기술 발전일 수 있습니다. 오늘날 최첨단 AI는 비판적 사고를 발전시키고 창의적인 표현을 생성하는 강력한 도구입니다. 단순 정보를 검색하는 것뿐만 아니라 질문에 답을 찾는 것도 가능해지고 복잡한 데이터와 프로세스 속에서 통찰력을 발견할 수 있도록 도와줍니다. 가장 중요한 것은 앞으로 AI 역량이 점점 더 빠르고 가파르게 개선될 것이라는 점입니다.
저자는 지난 몇 달 동안 ChatGPT뿐만 아니라 Microsoft에서 개발 중인 AI 범용 서비스인 코파일럿(co-pilot, 부조정사)를 사용할 기회를 가졌고, 한가지 질문이 자연스럽게 생겼습니다.
“AI로 인한 변화가 마냥 좋은 것일까? “ 물론 그렇다고 답할 수도 있지만 아닐 수도 있습니다. 이전의 모든 기술이 그랬던 것처럼 일부 사람은 이러한 기술 발전을 악용 도구나 무기로 사용할 것입니다. 안타깝게도 이런 사람들은 AI 기술을 악용하여 의도적으로 허위 정보를 앞세우면서 사실을 훼손하고, 악의적으로 편집하여 이익을 추구하기 위한 새로운 방법들을 모색할 것입니다. 따라서 새로운 기술은 인간에게 최고와 최악의 경험을 모두 선사하기 때문에 무엇보다도 남다른 책임감이 기술을 배포하는 개발자 뿐만 아니라 우리 모두에게 필요합니다. 다행히 Microsoft는 2017년부터 RAI 체계 구축을 위해 사이버 보안, 개인 정보 보호, 디지털 안전 분야 등에 많은 노력을 해 왔고, 이를 위해 AI 원칙, 정책, 프로세스, 도구, 거버넌스 시스템 등을 기업의 위기 대응 체계에 포함시키는 한편, OpenAI의 RAI 전문가들과도 함께 협업하면서 개선해 나가고 있습니다.
RAI의 접근방식
Microsoft는 RAI 체계 구축을 전사 핵심 과제로 도출하여 지난 6년 동안 추진하였습니다. 2017년부터 RAI의 이슈사항을 정의하여, AI 원칙 수립을 위한 자문 위원회 출범, RAI 거버넌스 사무국 설립, 엔지니어링 팀을 위한 RAI 표준 및 지침 발행, 교육, 프로세스/지원도구 구축 등을 실행하였습니다. 또한 2022년 여름에 Microsoft와 OpenAI는 협력하여 AI기술의 성능뿐만 아니라 한계에 대한 깊은 이해와 잠재적 피해를 최우선 과제로 연구하고, 맞춤형 RAI 측정 시스템을 구축하면서 AI로 인한 충격 완화 전략도 함께 연구하고 있습니다. 이러한 작업의 대부분은 전례가 없었고 일부 작업은 기존의 생각과 관념에서 탈피하는 새로운 실험이었지만 빠르게 성과로 이어지기도 하였습니다. 하지만, AI 모델이 계속 발전함에 따라 새로운 연구 질문에 답하고 측정 오차를 줄이면서 새로운 프랙티스, 패턴 및 도구를 설계해야 하기 때문에, AI 기술의 긍정적이면서 부정적인 영향에 대해 폭넓은 시각으로 바라보고 이해관계자들간의 진솔한 대화와 공동 행동을 통해 미래를 위한 안전장치를 준비해야 합니다. 성공적인 RAI 접근을 위해 다음 세 가지 당면과제에 집중할 것을 제안합니다.
첫째, AI는 책임 있고 윤리적으로 구축되어 사용되어야 합니다. 지난 역사를 돌이켜 보았을 때 AI와 같은 혁신적인 기술에는 새로운 규칙과 규범이 필요합니다. 모든 조직에서 책임 있는 프랙티스를 자율적으로 채택하지 않을 것임을 잘 알고 있기 때문에 국가 및 지역 사회에서는 사람들이 법에 의해 보호받을 수 있도록 민주적인 입법 과정을 통해 경계선을 설정해야 합니다.
둘째, AI가 국가 경쟁력과 안보 강화에 이바지할 수 있도록 해야 합니다. 첨단 기술의 우위가 글로벌 경쟁력과 국가 안보의 핵심인 세상에 우리는 살고 있고 AI가 바로 경쟁의 중심에 서있습니다. 이미 미국과 중국은 AI에 많은 투자를 하고 있는데, 더 많은 국가들이 데이터, AI 슈퍼컴퓨팅 인프라 구축과 인재 양성에 대한 광범위한 정부 정책과 함께 AI 발전을 위한 강력한 기술 리더십이 필요합니다.
셋째, AI가 사회에 편협하지 않고 광범위하게 서비스될 수 있도록 해야 합니다. AI로 근로자들이 업무 역량을 강화하고 학생들이 더 나은 교육 성과를 달성하고, 개인과 조직이 공정하면서 포용적인 경제 성장을 누릴 수 있게 하기 위해서는 새로운 이니셔티브가 필요합니다. 어린이를 포함한 취약 계층이 AI 세상에서 성장할 수 있도록 그 어느 때보다 더 많은 지원이 필요할 것이며 AI 혁신이 사람들의 정신 건강과 웰빙을 점차 강화할 수 있게 하고 인류와 지구를 위해 봉사할 수 있도록 해야 합니다. AI는 지구 환경 결과를 분석하고 청정 에너지 기술 개발을 앞당기는 동시에 기후 위기를 해결하는 데 중추적인 역할을 할 수 있어야 합니다.
마지막으로, 이러한 AI 당면 과제들을 엔지니어에게만 맡기기에는 위험 부담이 너무 크고, RAI 의사 결정 과정에 테크 기업들을 포함시키는 것이 필요합니다. AI가 엔지니어에 의해 개발되고 있지만 진정으로 인류에게 도움이 되려면, 앞으로 컴퓨터 및 데이터 과학자뿐만 아니라 인문학, 사회 과학 등 각계 각층에 있는 사람들의 다양한 의견을 한 데 모으고 교환하는 것이 필요합니다. 이때 중요한 것은 자신감보다는 겸손하게 듣고 배우는 자세가 필요할 것입니다. 우리는 끊임없이 호기심을 갖고 함께 배우면서 새로운 AI 변혁 시대를 맞이해야 합니다!
