도서 소개
우리 삶을 둘러싼 테크놀로지에 어떻게 대응해야 하는지 말하기 위해, UCLA에서 컴퓨터과학 형평성 프로젝트를 진행하는 교육 연구자 진 J. 류(류진선)과 제인 마골리스가 이 책을 썼다. 차별과 편견이 스며든 빅데이터가 만들어낸, ‘평균’은 알아도 ‘평등’은 알지 못하는 인공지능과 컴퓨터과학에 맞서기 위해서다.
『파워 온 : 평등하고 공정한 AI 시대를 위하여』의 주인공들은 각각 다양한 소수자 집단을 대표한다. 네 명의 청소년은 컴퓨터과학이 모두에게 공정한지 질문을 던진다. 스스로를 지키고, 컴퓨터과학자들이 기술뿐 아니라 사람을 되돌아보게 하기 위해서이다.
우리는 컴퓨터과학 기술 속에서 살고 있지만, 그것들이 어떻게 만들어지고 작동하는지는 잘 모른다. 기술에 이용당하지 않고 기술을 만들어나가기 위해, 컴퓨터과학의 미래를 주도적으로 이끌어가기 위해 목소리를 높이는 청소년들과 함께해보면 어떨까?
출판사 리뷰
■공정하고 현명한 인공지능?
chatGPT(openAI에서 개발한 인공지능 챗봇)에 대한 관심이 뜨겁습니다. 중학교 독후감 숙제 정도는 간단히 써낼 뿐 아니라, 변호사 시험에서 상위 1%의 성적을 받아낸다는 이 인공지능 챗봇은 출시 반 년도 되지 않아 일상으로 녹아들었지요. 특히 학생들 사이에서 인기가 많아요. 리포트 작성이나 번역을 손쉽게 해치울 수 있는 데다, 각종 학술 데이터베이스를 포함한 ‘빅데이터’에서 나오는 정보니까 믿을 수 있기 때문입니다.
그런데 얼마 전 유럽연합이 한 법안을 통과시켰습니다. 인공지능이 무엇을 학습했는지 공개하도록 하고, 인종과 성별 정보를 이용해 사람을 점수 매기지 못하게 하는 법이지요. 인공지능은 감정도 오류도 없고 아는 것은 엄청나게 많은데, 왜 믿음직한 인공지능의 발전을 가로막으려 할까요?
인공지능이 받아들이는 ‘빅데이터’ 모두가 윤리적이고 올바른 사실은 아니기 때문입니다. 예를 들어 ‘가짜 뉴스’가 그렇죠. 서울대 언론정보연구소에서 2020년 보도한 내용에 따르면, 국내 코로나19 관련해 언론이 주목한 136건 중 전혀 사실이 아닌 뉴스가 61건, 대체로 사실이 아닌 것이 50건이었다고 합니다. 사례의 80% 이상이 의도했든 그렇지 않든 ‘가짜 뉴스’였다는 겁니다. 가짜 뉴스뿐만이 아닙니다. 차별과 편견을 담은 정보 역시 인공지능의 빅데이터 안에 차곡차곡 쌓입니다.
■삶을 통제하는 컴퓨터과학
유나이티드헬스 그룹에서 개발한 의료용 AI 옵텀(Optum)은 흑인보다 백인 환자에게 더 많은 의료 서비스를 제공하도록 유도해 논란이 됐습니다. 건강 상태가 같더라도 (보통 치료에 돈을 덜 쓰는) 흑인에게는 추가 치료가 필요하지 않다고 판단한 것이지요. 대출이나 채용 심사에도 인공지능이 활용되면서 '인종·성차별하는 인공지능‘들이 눈에 띄기 시작했습니다. 빅데이터에 섞여든 차별과 편견이, ’평균‘은 알아도 ‘평등’은 알지 못하는 인공지능을 만들었어요.
차별과 편견 위에 세워진 기술은 인공지능 시대에도 불평등과 불공정이 이어지게 합니다. 『파워 온: 평등하고 공정한 AI 시대를 위하여』에서는 공정한 미래를 바라는 네 명의 청소년이 미래를 바꿔나가려고 노력합니다. 인공지능 시스템의 실수 때문에 경찰에게 총격당한 흑인 뉴스를 본 뒤, 네 청소년은 ‘불공평한 컴퓨터과학’에 맞서기 위해 일어나지요. 모두를 위한 컴퓨터과학 교육을 만들기 위해서요.
“이 책의 백미는 등장인물인 십 대 청소년들 스스로 이런 문제를 해결하기 위해 노력하는 모습에 있다. 새로운 컴퓨터과학 교육정책을 고민하고, 이를 널리 알리기 위해 목소리를 높인다.”
_전승민, 『The AI』 편집국장, 『십 대가 알아야 할 인공지능과 4차 산업혁명의 미래』 저자
첨단 컴퓨터과학 기술 속에서 살고 있지만, 그것들이 어떻게 만들어졌고 어떤 부작용을 가지는지 이해하는 사람은 많지 않습니다. 네 명의 청소년은 컴퓨터과학의 빛과 어둠을 모두가 알아야 한다고 생각합니다. 친구와 어른들을 인터뷰하고, 주변 학교들에 전화를 걸어 컴퓨터 수업 지도를 만들고, 위원회 앞에서 새로운 교육정책을 발표합니다.
■사람을 배려하는 테크놀로지 다양성을 존중하는 컴퓨터 과학
『파워 온: 평등하고 공정한 AI 시대를 위하여』는 이미 우리 삶을 둘러싼 테크놀로지에 우리가 어떻게 대응해야 하는지 말합니다. 우선 컴퓨터과학이 무엇인지 알아가는 것부터지요. 모든 사람이 시대와 기술의 흐름을 볼 수 있게 하는 것입니다. 나아가서 테크놀로지를 만들어가는 빅테크 기업들이 새로운 기술뿐 아니라 사람을 되돌아볼 수 있도록 해야 한다고 설득합니다.
캘리포니아대학교 로스앤젤레스(UCLA)에서 교육학을 전공하고 UCLA 다양성 프로젝트를 책임지고 있는 진 J. 류(류진선), 마찬가지로 UCLA의 교육 연구자로 컴퓨터과학 교육에서 불평등을 끝내기 위해 노력해온 제인 마골리스가 이 책을 썼습니다. 인종과 성차별 등의 문제를 다루는 흑인 혼혈의 라틴계 예술가 채리스 JB가 그림을 맡았고요. 미국 다문화 사회에서 살아오면서 더 좋은 삶의 터전을 만들고자 노력해온 지은이들이 미시시피와 로스앤젤레스에서 마주친 실제 청소년 네 명이 이 책 주인공들의 모델입니다.
『파워 온』에 등장하는 네 명의 주인공은 각각 다양한 소수자 집단을 대표합니다. 한국계 어머니와 엘살바도르 불법 이민자 아버지를 가진 크리스틴, 성소수자인 존, 히스패닉계 이혼 가정에서 사는 안토니오와 아프리카계 미국인 가정의 테일러가 등장합니다. 유튜브를 비롯한 SNS에서는 물론이고 우리가 살아가는 일상 속에서 마주하는 아주 다양한 사람들을 생각해보세요. 불평등과 차별을 극복하려는 주인공들의 노력이 지금 우리 현실과 맞닿아 있다는 걸 알 수 있을 겁니다.
■기술에 이용당하기보다는 기술을 만들어가길
컴퓨터과학과 인공지능 기술이 세상에 미치는 영향을 알아차리고, 인간만이 꿈꿀 수 있는 가치를 알고리즘에 반영하려는 노력이 청소년들에게도 전해지기를 바라면서 『파워 온』이 쓰였답니다. 컴퓨터과학과 인공지능이 과연 모두에게 공정한지 질문을 던지고, 기술에 이용당하기보다는 기술을 만들어가기를 바라면서요. 기술이 이끌어가는 미래를 준비하기 위해, 청소년들이 주도권을 잡기를 바라면서요.
“빅테크 기업의 본고장인 미국에선 사회적 우려가 쏟아지고 있지만 한국 사회는 한 박자 늦게 인공지능 기술을 마주하고 있다. 『파워 온: 평등하고 공정한 AI 시대를 위하여』는 우리가 직면하고 있는, 그리고 조만간 직면하게 될 문제의 유형과 대응 방법을 구체적으로 전달해주는 책이다.”
_금준경, 『미디어오늘』 기자, 『미디어 리터러시 쫌 아는 10대』 저자
『파워 온』의 지은이들은 선생님들과 학부모님들을 위한 교육 자료들을 따로 준비해 두었습니다. 아래 사이트에서 청소년과 지도자들을 위한 영어판 교육 자료들을 찾아보세요.
www.poweronbook.com
“인종차별적인 인공지능 미인대회는 어떻게? 네 생각보다 메이크업이 컴퓨터과학과 관련 있을지도 몰라. 심지어 우리 선생님 말씀으로는 우리에 대한 정보가 휴대폰이랑 인터넷으로 추적된다던데…”
“네가 의료와 관련된 앱을 직접 개발하지는 않겠지만, 그런 앱이 어떻게 작동하는지는 이해해야 해. 환자에게 어떤 치료가 적합한지 알려주는 앱을 컴퓨터과학자들이 만들잖니. 그런데 그런 앱이 항상 정확하지는 않단다. 심지어 특정 인종이나 사회경제적 지위에 불리하게 만들어진 경우도 있어.”
“컴퓨터과학자들이 무슨 일을 하는지, 프로그램 코드를 어떻게 작성하는지 이해하지 못한다면 네 환자들이 차별받거나 오진받지 않도록 과연 보호할 수 있을까?”
작가 소개
지은이 : 제인 마골리스
UCLA의 교육 연구자이자 작가로, 컴퓨터과학 교육에 있어서 불평등과 인종차별을 끝내기 위해 오래전부터 노력해왔다. 그 공로를 인정받아 2016년 백악관이 선정하는 ‘변화의 챔피언’(Champion of Change)상을 수상했다.
지은이 : 진 J. 류
하버드대학교에서 시각 및 환경 연구학을 전공해 학사 학위를 받았고, 하와이주립대학교 마노아캠퍼스에서 교육 및 교수학 석사 학위와 함께 중·고등학교 영어 및 사회 교사 자격을 취득했다. UCLA에서 교육철학 박사 학위를 받았다.방과 후 과정, 박물관, 공립학교, 대학교 등에서 유치원생부터 대학생까지 다양한 학생들을 가르친 (동시에 배운) 경험을 보유하고 있다.2021년 4월 미국 교육학회(American Educational Research Association)의 ‘잰 호킨스 젊은 연구자상’(Jan Hawkins Early Career Award)을 수상했다.연설 및 강연 의뢰를 받고 있으며, 2021년 컴퓨터과학교사협회 컨퍼런스(폐막 연설), 국립과학아카데미(National Academy of Sciences) 온라인 세미나 시리즈(초청 패널), 샌프란시스코 통합 교육구(San Francisco Unified School District)(초청 강연), 인클루시브 STEM+CS 회담(초청 연설) 등 다양한 행사에 초대 받아 연설한 경험이 있다.
목차
한국 독자들에게 | 책을 내면서
1. 엉망진창
2. 여름방학
3. 고등학교 생활 시작
4. 컴퓨터과학을 배워야 하는 이유
5. 나와 같은 누군가
6. 우리 스스로가 곧 우리가 바라는 변화
7. 학생들이 주도하다: 모두를 위한 컴퓨터과학
작가의 말
감사의 말
청소년들이 만들어갈 앞으로의 여정을 위해 | 옮긴이의 말
주
