음성인식 인공지능(AI) ‘알렉사’가 10세 소녀에게 감전 위험 행동을 제안해 논란이 된 가운데, 인공지능에 윤리 가르치는 재미 한인 여성 과학자가 화제다.
21세기 들어 인공지능(AI: artificial intelligence) 시대가 열리면서, 이 최첨단 과학기술이 가져올 미래에 대한 장밋빛 예측이 세상을 지배하고 있습니다. 하지만 그 배경에는 기술만 앞세운 위험한 낙관론을 경계하는 목소리도 만만치 않게 들립니다.
최근, 미국 아마존이 개발해 널리 상용화돼 있는 인공지능(AI) 플랫폼 '알렉사'가 10살 소녀에게 일명 '페니 챌린지'를 제안해, 자칫 감전 사고로 생명을 잃을 수도 있을 뻔한 사건이 발생했습니다.
인공 지능 논란이 불거진 가운데, 인공지능에 윤리를 가르치는 한국인 여성 과학자, 최예진 미국 워싱턴대 교수가 화제의 인물로 떠올랐습니다. 컬처 IN에서 자세히 알아봅니다. 유화정 프로듀서 함께 합니다.
Highligts
- 알렉사, 10살 아이 '도전' 검색에 '페니 챌린지' 알려줘
- 2018년엔 가족 대화 임의 녹음 후 외부 전송으로 논란
- 인공지능(AI)을 바라보는 시각과 ‘AI 윤리’ 다시 불거져
- 윤리적 판단 내리는 ‘델파이’, 책임자는 한인여성 과학자
주양중 PD(이하 진행자): "반쯤 꽂은 플러그에 동전 대봐"… 인공지능 알렉사 말 듣다 하마터면 감전될 뻔한 사고가 발생했는데, 다행히 인명 피해는 없었네요. 감전사고 정말 무서운 거 아닙니까..
유화정 PD: 이제 겨우 열 살 소녀입니다. 특히 어린이 감전 사고의 주원인은 콘센트를 가지고 장난치는 행동에서 비롯된다는 점에서 천만다행이라고 봐야죠.
소녀의 어머니 크리스틴 리브달은 사고 당일에 대해"아이가 평소 유튜브에서 야외 체육활동 등을 찾아 따라 했는데 그날은 밖에 비가 오자 집에서 할 만한 운동을 찾았다"고 설명했는데요. 아이는 단지 발을 손으로 잡은 상태에서 앞 뒤로 누워 구르는 챌린지를 원했을 뿐이라고 덧붙였습니다.
당시 상황은 소녀가 챌린지를 할만한 소재를 묻자 이에 알렉사는 웹에서 ‘챌린지’라는 단어로 검색해 ‘페니 챌린지’를 찾았고, "반쯤 꽂은 플러그에 동전 대봐" 라고 방법을 알려준 것으로 추정됩니다.
다행히 어머니 리브달씨가 아이와 함께 있어 사고는 미연에 막을 수 있었습니다.
진행자: ‘페니 챌린지’가 최근 틱톡 등 청소년들이 많이 찾는 SNS에서 큰 인기를 얻은 놀이라면서요?
유화정 PD: 전기 콘센트에 충전기 단자를 반쯤 꽂고, 나머지 드러난 단자 금속 부분에 동전을 갖다 대는 것인데요. 콘센트에 플러그가 꽂힌 상태에서 충전기 단자에 전기가 흐르는 도체인 금속 재질의 동전을 갖다 댈 경우 감전이나 화재 등의 사고가 발생할 수 있는 위험한 장난입니다.
진행자: 안전사고를 잘 인식하지 못하는 아이들이나 호기심 많은 청소년들에게는 도전적인 놀이가 되는 거군요.
유화정 PD: 알렉사의 위험한 권유로부터 딸을 보호할 수 있었던 건 어머니 리브달 씨가 한 때 유행했던 ‘페니 챌린지’에 대해 알고 있었던 덕분이었습니다.
‘페니 챌린지’는 2020년 미국의 두 십대 청소년이 자신들의 챌린지 영상을 틱톡에 올리려고 동전을 콘센트에 갖다 댔다 연기가 나면서 점화된 사건으로 경각심을 주었었는데요.
페니 챌린지가 크게 유행하자 영국과 미국 등의 소방당국은 놀이라고 할 수 없는 위험한 행위인 페니 챌린지에 대해 규탄하는 입장을 내기도 했습니다. 미 소방당국은 "손가락이나 손, 팔 등을 잃을 수 있다"고 경고하기도 했습니다.
진행자: 치명적인 사고로 이어졌을 뻔한 이번 사건 이후 SNS상엔 항의와 논란이 빗발쳤는데, 음성인식 인공지능 스피커 알렉사를 만든 아마존은 즉각 조처를 취했나요?
유화정 PD: 소비자와 부모들의 논란이 거세자 아마존은 "고객 신뢰는 우리의 중심이다”는 말로 공식 성명을 발표했는데요.
아마존 측은 "알렉사는 이용자에게 정확하고 관련성 있으며 도움이 되는 정보를 제공하기 위해 고안됐다"며 "해당 오류를 인지한 후 곧바로 관련 내용을 수정하는 등 신속한 조처를 취했다"고 답했습니다.
현재 알렉사는 도전할 것에 대해 말해보라는 질문에 더 이상 제안을 하지 않고 있는 것으로 확인됐습니다.
진행자: 이번 논란이 쉽게 잦아들 것 같지 않은데요. 몇 년 전에는 가족 간의 대화 녹음을 임의로 전송한 사건으로 크게 논란이 일지 않았나요?
유화정 PD: 알렉사는 '인공지능 비서'라는 소개와 함께 2014년 첫 공개됐습니다.소비자들은 주로 아마존 에코라는 이름의 음성 인식 스마트 스피커에 탑재된 형태로 접하고 있는데요.
지난2018년에는 미국의 한 가족 간 대화가 녹음된 후 임의로 제3자에게 전송돼 논란이 일어난 바 있습니다.
오리건주 포틀랜드에 사는 이 부부는 집에서 한 대화가 자신들도 모르게 녹음돼 그 음성 파일이 연락처 명단에 있는 동료에게 임의로 전송되는 황당한 일을 겪은 것인데요. 부부는 녹음파일을 받은 동료가 알려준 뒤에야 자신들의 대화가 녹음돼 외부로 유출된 사실을 깨달았습니다.
진행자: 당시 아마존은 "이런 일련의 일들은 있을 것 같지 않은(unlikely) 일"이라고 입장을 밝혔던 기억이 나는데요. 아마존의 해명에도 불구하고 일상 속으로 침투하는 AI 관련 개인정보 보호 문제가 한 동안 도마 위에 올랐죠?
유화정 PD: 당시 언론들은 ‘엿듣는 아마존 에코’ ‘못 믿을 아마존 AI스피커’라며AI 음성인식 기기를 생활 속에 활용하는 사람들이 늘어나는 가운데 보안과 사생활 침해 우려를 더욱 키우는 일이라고 꼬집었습니다. 일부에서는 AI가 악용될 수 있는 사례라며 주목하기도 했습니다.
이러한 일련의 사건에 대해 AI 전문가들은 "현재 어떤 AI도 일상의 물리적, 심리적 세계를 원격으로 이해할 수 없다"며 "우리가 신뢰할 수 있는 AI에 도달하기 위해서는 더 많은 데이터뿐 아니라 근본적인 발전이 필요하다"고 한 목소리를 내고 있습니다.
진행자: 인공지능(AI: artificial intelligence)에 대해 단점과 부정적인 측면도 부각되지만 점차 우리 생활 속으로 스며들며 편리함을 더해주고 있는 점을 부인할 수 없는데요. 최근에는 AI가 질병을 관리하고 진단까지 하고, 기업에서는 채용 절차를 사람 대신 수행하는 등 인공지능 활용 사례가 늘고 있다고요.
유화정 PD: 인공지능 AI는 이미 헬스케어 분야에서 널리 활용되고 있는데요. 이 중 가장 유망한 분야는 각종 암의 식별과 검사 기능입니다. AI는 또한 의료 네트워크를 통해 질병 발생을 예측하는 데에도 사용되고 있습니다.
인공지능은 기후 변화가 미치는 영향을 예측하는 데에도 도움을 줍니다. AI를 활용해 자연재해 및 다양한 사고에 미리 대비할 수 있는 연구를 진행하고 있습니다.
최대 검색 엔진 구글은 스마트폰 비서부터 이미지 인식, 번역, 구글 맵 등 매일 사용하는 구글 서비스들 안에 수많은 AI 기능이 숨어 있습니다.
진행자: 전 세계적으로 불법 온라인 범죄들이 더욱 기승을 부리고 있고, 특히 팬데믹 이후 소셜 네트워크를 어지럽히는 가짜 뉴스(fake news)의 파수꾼으로서의 기능도 확실히 하고 있죠?
유화정 PD: 최근 코로나 19 바이러스 백신과 관련해 범람하는 가짜 뉴스로부터 대중을 보호하는 수단 역시 AI입니다.
일례로 링컨 연구소의 소프트웨어 엔지니어들이 만든 AI 인플루언스 정찰 시스템은 소셜 네트워크를 통해 잘못된 허위 정보를 퍼뜨리는 소셜 미디어 계정을 자동으로 감지하고, 분석하는데 뛰어난 결과를 가져다주었습니다.
스탠퍼드 대학의 실험에 의하면 가짜 뉴스 탐지에 대한 실험에서 인간은 가짜 뉴스 중에 66%만을 가짜라고 가려낸 반면, 인공지능은 90%까지 가짜 뉴스를 구분할 수 있었습니다.
진행자: 하지만 아이러니하게도 소셜 네트워크상에서 인공 지능(AI)은 두 얼굴을 갖고 있다고 하는데, 즉 한편으로는 가짜 뉴스의 감시자지만 다른 한편으론 가짜 뉴스 생산자의 얼굴도 갖고 있다고요?
유화정 PD: 인공지능이 가짜 뉴스를 선별하는 데 유용한 도구지만, 오해의 소지가 있는 자료를 만드는 데도 놀랄 만큼 능숙하다는 것이 문제입니다. AI가 생산하는 가짜 뉴스의 위험성에 대해서는 꾸준히 경고가 제기돼 왔는데요.
앞서 이 분야 학자와 전문가들은 음성만 가지고도 자연스럽게 말하는 듯한 영상을 만들어지며 텍스트만을 가지고도 원하는 사람의 음성을 만들어 입힐 수도 있게 되었다”며 특히 영상 형태의 가짜 뉴스 등장을 예측했습니다.
진행자: 21세기 인공지능 시대가 열리면서 최첨단 과학기술이 가져올 미래에 대한 장밋빛 예측이 세상을 지배하고 있지만 기술만 앞세운 위험한 낙관론을 경계하는 시각도 만만치 않은데요. 최근 혁신적인 AI프로젝트 ‘델파이에게 물어보세요(Ask Delphi)’가 전 세계적인 관심을 모으고 있죠?
유화정 PD: 지난해 11월 앨런 AI연구소가 공개한 ‘델파이’는 고대 그리스에서 신탁을 받던 아폴로 신전에서 이름을 따왔습니다.
델파이는 철저히 윤리적 판단을 하는 데 초점이 맞춰져 있는데 “기계가 윤리를 배울 수 있는가”라는 난해한 질문에 대한 대답을 구하려는 시도라고 합니다.
델파이는 공개 3주 만에 전 세계 300만 명이 몰려들어 델파이에게 질문을 던지는 대박을 터뜨렸는데요. 뉴욕타임스와 가디언 같은 유력 매체들은 “델파이를 테스트해본 사람들이 정확함에 놀라고 있다”며 일제히 톱기사로 다뤘습니다.
진행자: 앨런 인공지능 연구소가 빌 게이츠와 함께 마이크로소프트를 창업한 폴 앨런이 설립한 것이라면서요?
유화정 PD: 빌 게이츠와 함께 마이크로소프트를 창업한 폴 앨런이 작고하기 전 수억 달러를 기부해 미국 시애틀에 설립한 연구소로 인류 공동의 번영을 위한 AI를 만들겠다는 것이 그의 뜻이었습니다.
진행자:특히 남달리 주목을 끄는 점이 있습니다. ‘델파이’ 프로젝트의 총괄 책임자가 한인 여성 과학자라는 점인데, 최예진(44) 워싱턴대 컴퓨터공학과 교수로 알려졌죠?
유화정 PD: 최예진 교수는 사람의 언어를 컴퓨터가 이해하도록 하는 자연어 인식 분야의 세계적인 권위자입니다. 2016년 국제전기전자공학회가 꼽은 ‘주목할 AI 연구자 10인’에 선정되기도 했습니다.
인공지능에 윤리를 가르치는 프로젝트를 시작한 이유에 대해 최예진 교수는 “AI는 사람이 준 데이터로 학습한다. 결국 AI의 윤리는 그걸 가르치는 사람의 문제다. 그걸 최대한 바로잡는 것, 상식에 부합하는 AI를 만드는 것이 이 프로젝트의 목표다.”라고 말했습니다.
진행자: 어디에나 인공지능이 적용되는 시대에, AI가 확산되면서 생기는 여러 문제점을 최대한 바로잡기 위한 노력은 곧 AI윤리 논란을 잠재우는 안전장치가 되리라 봅니다.
