[2023RightsCon] 기후위기 온라인 혐오와 폭력, 가짜뉴스에 맞서는 방법 RightsCon(이하 ‘라이츠콘')은 디지털 시대의 인권에 대한 국제 컨퍼런스로, 지난 2011년부터 Access Now의 주관으로 5개 대륙을 돌며 매년 개최되고 있습니다. 올해는 코스타리카에서 6월 5일부터 8일까지 4일 간 진행되었고, 600개가 넘는 세션에서 174개국의 8100명 이상의 참가자들이 모여 성황리에 열렸다고 하는데요. 디지털 기술로 민주주의의 미래를 만드는 비영리 플랫폼 협동조합인 사회적협동조합 빠띠의 크루들도 일부 세션에 참여하여 각 세부 주제에 대해 함께 고민하고 실제 활동으로 이어갈 수 있는 지점을 모색해보는 시간을 가졌습니다. 라이츠콘에 다녀온 빠띠의 크루 제이, 미키, 리디아의 여정과 함께, 디지털 시대에서 더 나은 민주주의를 만들어 가는 빠띠의 이야기를 소개합니다. 기후위기, 비상사태입니다. 이젠 모두가 나서 기후위기를 이야기 합니다. 오래전부터 코 앞에 닥친 인류의 위기를 이제서야, 라는 생각이 들기도 하지만 그럼에도 기후위기에 대한 이야기와 활동은 계속되어야 합니다. 앞장서 기후위기를 알리던 활동가들은 지칠 새도 없이 조금의 변화라도 있기를 바라며 지금 이 순간에도 할 수 있는 모든 것을 해내기 위해 고군분투하고 있습니다. 물론 그 과정에서 활동가들은 함께하는 동료와 시민들로부터 작은 성취와 보람을 느끼기도 하지만 돌아보면 조금도 나아가지 못했다는 생각에(어쩌면 오히려 나빠져가고 있는 상황에) 그보다 깊은 우울과 좌절을 경험하기도 합니다. 지금의 상황을 더 악화시키는 세력앞에 무력함마저 느낍니다.  기후위기에 대한 진실을 알리고, 변화를 만들기 위한 시간조차 부족한 지금. 이제는 무엇이 진실인지, 거짓인지 구분할 수 없는 정보들이 우리와 우리 주변을 잠식하고 있습니다. 글로벌 기업과 국가 경제 이해 관계에 얽혀 기후위기에 대한 혐오와 폭력은 유용한 도구가 되어 감당할 수 없을만큼 덩치가 커진채 방치되고 있습니다.    그러나, 그럼에도 불구하고, 기후위기는 이야기되어야 하고 더 나은 방법을 찾아야하기에 RightsCon의 아래 두 세션을 함께했습니다.   Boiling point: online hate in the face of the climate emergency  (기후 비상 사태에 직면한 온라인 혐오)  Oportunismo climático: desinformación online y offline para ocultar el ecocidio en la Amazonía venezolana (기후 기회주의: 베네수엘라 아마존의 생태학살을 숨기기 위한 온라인 및 오프라인 허위 정보)   기후위기, 비상사태에 직면하게 된 온라인 혐오 Boiling point: online hate in the face of the climate emergency  (기후 비상 사태에 직면한 온라인 혐오) 세션에서는 Henry Peck(Campaigner, Global Witness)의 진행으로 인도 청소년 기후 정의 운동가이자 Friday For Future India의 설립자인 Disha Ravi(Climate Justice Activist, Independent),Global Action Plan의 정책 및 캠페인 책임자 Oliver Hayes(Policy & Campaigns Lead, Global Action Plan), Engine Room 연구자 Quito Tsui(Research assistant, The Engine Room)3명의 세션 발제자들이 온라인 증오와, 폭력, 선거 허위 정보가 기후 정의 활동과 민주적 과정에 끼치는 심각한 피해에 대한 경험을 나누었습니다. (아래 본문의 내용은 해당 세션에서의 내용을 요약, 편집하여 옮겼습니다.) 온라인 증오와 폭력은 기후정의 활동가, 연구자들에게 심각한 영향을 미치고 있음에 공감하며 세션이 시작되었습니다. 온라인 증오와 폭력의 영향을 받은 과학자의 5분의 1이 우울증을 경험했고 절반 이상이 생산적인 활동이 어려워진것으로 보고가 되었다고 합니다.  나아가 이는 디지털 기술과 기후위기, 기후 비상사태의 관계에 더 많은 측면이 있다고 보았는데요. 아래 발제자들이 연구와 활동 경험을 나누며 그에 대한 이야기를 나누었습니다.  우선 Quito Tsui는 디지털 기술과 환경정의의 밀접한 연결에 대해 설명했습니다. 기술을 이용하여 삼림 벌채에 대해 모니터링 하거나 데이터 수집, 정제, 분석과 같은 모델링 등을 통해 정책에도 영향을 줄 수 있다며, 다만 오히려 이 기술 산업이 발전하며 환경 정의 활동가들이 해야할 일들이 많아졌다고 지적했습니다.  Disha Ravi 역시 디지털 기술이 가진 가능성과 위험성에 대해 말하며, 소셜 미디어 등을 활용해 디지털 캠페인을 운영하고 더 많은 사람들이 동참하고 자원을 모으고 공유하는 데 활용되는 것은 좋으나, 빅테크 추적 메커니즘과 사용자들간 데이터 공유로 정부와의 문제에 직면하기도 한다고 언급했습니다.  Oliver Hayes는 기업이 환경 정의에 미치는 영향에 대해 기업이 생산하는 것 뿐만 아니라 그들이 주도하는 행위 역시 제한되지 않는 점을 문제라고 주장했습니다. 전 세계 에너지 소비의 약 1%가 온라인 광고를 제공하는 과정에서 조작적으로 감시 기반의 광고를 강화하는 것이 본질적인 낭비라고 설명하며 이 광고에 대응하고 환경 이슈에 대항하기 위해 환경 단체들이 이 광고에 대해 반대하는 캠페인을 시작하도록 장려하는 것을 지적했습니다.  나아가 발제자들은 기업들의 미디어를 활용한 기후위기 증오 발언과 선거 허위 정보 제공, 거대 기술을 가진 기업의 비즈니스 모델이 기후위기에 미치는 영향, 그린워싱(기업이 실제로는 환경보호 효과가 없는, 환경에 악영향을 끼치는 제품을 생산하면서도 허위, 과장광고를 통해 친환경적인 모습으로 포장하는 것)에 대한 문제가 심화되고 있음에 공감하며 온라인, 디지털 환경이 나아갈 방향에 대해 깊은 고민과 앞선 행동이 필요함을 공감했습니다.  베네수엘라 정부가 감춘 아마존의 비밀 Boiling point: online hate in the face of the climate emergency  (기후 비상 사태에 직면한 온라인 혐오) 세션에서는 온라인 증오와 혐오, 선거 허위 정보가 기후 정의 활동을 더 어렵고 힘들게 만들고 있는지. 디지털 기술과 기후정의의 연결고리를 확인했습니다.  그렇다면 정부가 언론을 통제하고 가짜뉴스를 생산하고 악용하여 환경 활동을 막는 사례는 어떨까요. 아니, 사실은 진실을 감추는 행위의 이면에는 무엇이 있을까요.   Oportunismo climático: desinformación online y offline para ocultar el ecocidio en la Amazonía venezolana (기후 기회주의: 베네수엘라 아마존의 생태학살을 숨기기 위한 온라인 및 오프라인 허위 정보) 세션을 통해 베네수엘라의 사례를 살펴보았습니다. 베네수엘라의 온라인 및 오프라인 혐오와 정부의 언론통제, 가짜뉴스에 대한 진실에 접근하기 위해 5명의 기자와 전문가 Maria V Marin(Executive Director, ProboxVE) Ariana Briceño(Coordinator, El Estimulo), Jeanfreddy Gutierrez(Journalist, Cocuyo Chequea), Hector Rodriguez (Coordinator, Medianalisis) , Adrian Gonzalez(Coordinator, Cazadores de Fake News)가 해당 세션에 모였습니다.  세션의 내용을 요약하자면 다음과 같습니다.    베네수엘라 마두로 정권은 "그들이 환경의 진정한 수호자"라고 공개적으로 주장했습니다. 그러나 2016년부터 불법 광산 및 산림파괴로 인해 베네수엘라 아마존은 점점 큰 피해를 입고 있습니다. 완전한 회복이 어려운 상황입니다.  베네수엘라에서 가장 중요한 채널인 rctv가 폐쇄된 2007년에 언론탄압이 시작되었습니다.  언론인의 사법화 및 범죄화는 시민들 사이에 잘못된 정보를 가져왔고, 강요된 내러티브(narrative)의 무지와 지속적인 왜곡이 사회를 해체 했습니다. 소셜 네트워크에서 거론되는 주요 이야기들은 결국 베네수엘라 정권에 의해 모두 차단되고 한편으로는 참여, 기존 미디어에서 이미 방송되고 있던 내용이 확산되고 있습니다.  현재 베네수엘라는 정부의 언론탄압을 견디다 못해 대체언론이 유행하고 있습니다.  베네수엘라 아마존의 진실을 국제 사회에 알리고 정부에 대항하기 위해서는 디지털 기술을 활용해 볼 수 있습니다.  Armando info와 스페인 국가에서는 러닝머신과 인공 지능을 사용하여 수행한 조사가 유행하고 있습니다.  세션에서 기자와 전문가 들은 이야기 합니다. 베네수엘라에서 이와 같은 진실을 알리기 위해 정확한 정보를 제공하는 것에 대한 검열, 정부로부터의 위협이 있어 기자, 단체 및 활동가들이 현재 상황을 문서화하고 알리는 것이 매우 어렵다고요. 그러나 많은 어려움에도 불구하고 독립 언론 매체 2개, 단체 3개 및 팩트 체커 1명이 노력을 합쳐 베네수엘라 정부의 담화와 COP27에서의 온라인 선전을 조사, 전문가들, 환경 단체가 위성 영상을 통한 고발, 정부가 이야기하는 내용에 대한 거짓을 폭로하기 위해 노력하고 있으며, 이를 위해 베네수엘라 아마존에 대한 전 세계의 관심과 문제 해결 촉구로 베네수엘라 정부에 대항하는 힘을 보태어달라며 목소리를 높였습니다.  안전하고 지속가능한 활동과 민주적 과정을 지켜내기 위한 방법 기후위기에 대한 온라인 혐오와 폭력은 환경을 위한 행동에 불안감을 불러일으키며 비판적인 대화를 억압합니다. 소셜 미디어 플랫폼 내 환경정의, 기후위기에 대한 혐오와 폭력이 무분별하게 이루어지고 방치되고 있습니다. 그러나 플랫폼은 인권 피해와 선거에 대한 잘못된 정보가 확산되는 것을 방지해야하는 책임이 있습니다. 그러나 어떻게 그들을 움직일 수 있을까요.  진실을 감추는 언론통제와 가짜뉴스 조장은 또한 어떠한가요. 정부가 의도적으로 감추는 실상을 알리고 여전히 발견되지 않은 진실을 확인하고 외부에 알리는 것, 국제 사회가 모두 관심을 가져야 할 환경 재앙에 대한 인식을 조성하는 것, 무엇을 어떻게해야 가능할까요.   빠띠는 안전하고 지속가능한 활동과 민주적 과정을 지켜내기 위한 방법으로 우리가 이야기하고자 하는, 지켜내야하는 의제들에 대해 끊임없이 이야기가 이어질 수 있도록 토론의 장을 열고 더 많은 사람들이 참여할 수 있도록 하고 있습니다. 빠띠의 공론장은 누구나, 언제나, 어디서나 안전한 공간에서 모두가 자신의 이야기를 열고 의견을 내고 모으고 알릴 수 있도록 지금 이순간에도 빠띠는 ‘들썩들썩떠들썩’한 장을 만들어 가고 있습니다.  온라인 혐오와 폭력, 가짜뉴스에 맞서기 위해서는 계속해서 의제에 관심을 가지고 정확한 정보를 나누고 대화를 이어가는데서 더 나은 방법을 찾을 수 있지 않을까요? 기후위기, 이제는 생존을 고민해야하는 시대. 서로를 믿고 안전하고 지속가능한 활동과 민주적 과정을 지켜내기 위해서는 제대로 알고, 서로를 이해하고, 대화를 이어가는 것부터 시작해 볼 수 있겠습니다. 

[2023RightsCon] 누구도 소외되지 않는, 모두를 위한 디지털 권리를 위해 RightsCon(이하 ‘라이츠콘')은 디지털 시대의 인권에 대한 국제 컨퍼런스로, 지난 2011년부터 Access Now의 주관으로 5개 대륙을 돌며 매년 개최되고 있습니다. 올해는 코스타리카에서 6월 5일부터 8일까지 4일 간 진행되었고, 600개가 넘는 세션에서 174개국의 8100명 이상의 참가자들이 모여 성황리에 열렸다고 하는데요. 디지털 기술로 민주주의의 미래를 만드는 비영리 플랫폼 협동조합인 사회적협동조합 빠띠의 크루들도 일부 세션에 참여하여 각 세부 주제에 대해 함께 고민하고 실제 활동으로 이어갈 수 있는 지점을 모색해보는 시간을 가졌습니다. 라이츠콘에 다녀온 빠띠의 크루 제이, 미키, 리디아의 여정과 함께, 디지털 시대에서 더 나은 민주주의를 만들어 가는 빠띠의 이야기를 소개합니다. 누구나, 언제나, 어디서나 대화를 열고 이야기를 나누고 정보를 모아 알리는 대화의 장을 열면서 가장 고민이 되었던 부분이 있습니다. 이 과정에 모두가 안전하고 편안하게 참여할 수 있기 위해서는 무엇이 필요할까, 어떤 고민을 더해야 하나. 매번 깊은 고민을 하고 정보를 모아 배우며 나아가고자 하지만 쉽지 않습니다.  특히 디지털 환경에 누구도 소외되지 않고 안전하고 편안하게 참여하기 위해, 모두를 위한 디지털 권리를 지켜내는 것, 어떻게 하면 잘 만들어 갈 수 있을지 고민이 되던 차 청각, 시각 장애인의 디지털 권리에 대한 이해 및 경험, 더 나은 방법에 대한 실마리를 얻을 수 있는 세션을 발견했습니다. Digital rights for deaf and blind people: how is it going? (청각 장애인과 시각 장애인을 위한 디지털 권리: 어떻게 진행되고 있습니까?)  시각, 청각 장애인을 위한 디지털 권리, 어디까지 왔나요? Digital rights for deaf and blind people: how is it going? (청각 장애인과 시각 장애인을 위한 디지털 권리: 어떻게 진행되고 있습니까?)세션에서는 청각, 시각 장애인의 디지털 권리에 대해 Ellen Kusuma(Consultant, Independent)의 진행으로 Nissi Taruli Felicia(Co-Founder FeminisThemis),인도네시아 시각장애인 권리 운동가 Mahretta Maha (Officer, PERTUNI & PETKI DKI Jakarta),방글라데시의 국가 컨설턴트인 Vashkar Bhattacharjee(Program Manager, Young Power In Social Action)의 세션 발제자 3명이 경험과 생각, 더 나은 대안을 함께 고민했습니다. 세션에션 나누었던 이야기를 정리하자면 다음과 같습니다.  디지털 권리는 인권입니다. 디지털 기술이 없으면 직업적으로 일할 수도 없고, 일할 능력을 잃을 수도 있고, 기술이 없으면 이동이 제한될 수 있습니다. 디지털 접근성이 없으면 정보를 수신하는 기술에 크게 의존하기 때문에 정보가 제한됩니다. 그리고 디지털 기술 연결이 없으면 저는 여러분과 같은 글로벌 커뮤니티에서 제외될 것입니다. 우리는 소셜 미디어를 통해 연결하고자 합니다. 우리는 소셜 미디어에서 제공되는 정보가 시각 장애가 있는 사람들이 쉽게 접근할 수 있고 사용자 친화적이어야 한다고 생각합니다. 우리는 현지 언어로 정보를 얻고 싶습니다. 비용이 들지 않는 보조 기술이 필요합니다. 우리는 매우 비싼 화면 판독 소프트웨어와 같은 디지털 기술의 사용을 실제로 제한하는 기술 비용에 대해 매우 우려하고 있습니다. 하지만 요즘 우리는 아주 좋은 품질의 오픈 소스 화면 읽기 소프트웨어를 가지고 있습니다. 그러나 불행하게도 많은 나라들이 고품질의 텍스트를 가지고 있지 않습니다. 그렇기 때문에 우리는 모국어를 사용하는 것이 제한됩니다. 장애인을 위한 보조 장치는 매우 비쌉니다. 그리고 그것은 시각 장애가 있는 사람들이 연결하거나 기술을 사용하는 것이 쉽지 않습니다(제한받고 있습니다).  시골에서는 인터넷이 열악하고 인터넷을 사용하기 위한 비용도 많이 듭니다. 이는 디지털 격차를 만들고 수백만 명의 장애가 있는 사람들이 정보나 연결을 얻지 못하거나 디지털 기술에 관여하지 못하도록 제한합니다. 실제로 장애인들 사이에서는 디지털 차별에 대한 논쟁이 벌어지고 있습니다. 또한 대부분의 장애인은 빈곤층에 속하기 때문에 디지털 기기가 비싼 것이 가장 큰 문제라고 생각합니다. 값비싼 보조 기술과 장치를 활용할 수 없습니다. 장애 유형에 따라 높은 성능의 장치가 필요한 경우도 있습니다. 저가형 제품은 사용할 수 없습니다. 인도네시아에는 청각 장애인의 수가 많습니다. 인도네시아 전체 인구가 2억 정도인데요. 인도네시아 전체 인구의 7%가 청각 장애인입니다.  인도네시아에서 수화 통역사를 갖기 위해 전쟁을 벌이는 것과 같습니다. 수화 통역사가 매우 적기 때문입니다. 그리고 모든 수화 통역사가 통역 능력이 뛰어나고 관련 지식이 있지만 서로 다른 지식을 가지고 있어 어려움이 있습니다.  누구도 소외되지 않는, 모두를 위한 디지털 권리를 위해 “장애가 없는 사람들은 장애가 없는 우리에게 구체적으로 필요한 것이 무엇인지 모릅니다. 장애인 또는 장애인을 대표하는 조직, NGO 또는 기타 시민 사회 단체와 함께 앉아 이야기하거나 토론이 필요합니다.”  이번 세션에서 가장 인상 깊었던 이야기 였습니다. 디지털 기술이 발전하며 누구도 소외되지 않고 동등한 기회를 만들어 갈 수 있을것이라고 생각했지만, 여전히 갈 길이 멀고 쉽지 않습니다.  누구도 소외되지 않는, 모두를 위한 디지털 권리를 위해 빠띠는 시각, 청각, 시청각 장애인이 마주한 어려움을 직면하고 디지털 격차를 줄이기 위한 노력을 해나가고자 합니다. 장애인 당사자가 참여하는 토론의 장을 마련할 때는 어떻게 하면 안전한 공간을 만들어 낼 지 끊임없이 고민하고 촘촘하게 보완해가고자 합니다.     모두를 위한 디지털 권리를 위해 빠띠가 그 새로운 장을 여는 과정에 많은 분들이 다함께 힘을 보태어주기를 바라며, 이번 세션의 진행자가 마무리로 맺었던 발언으로 이 글을 맺어봅니다.  “저는 다음 10년이 우리의 10년이 될 것이라고 믿습니다. 장애인들은 모든 권리와 기회를 다른 사람들과 같이 향유할 것이라고 믿습니다. (디지털 기술과)인공 지능이 장애인을 위한 새로운 장을 열 것이라고 믿습니다.”

RightsCon(이하 ‘라이츠콘')은 디지털 시대의 인권에 대한 국제 컨퍼런스로, 지난 2011년부터 Access Now의 주관으로 5개 대륙을 돌며 매년 개최되고 있습니다. 올해는 코스타리카에서 6월 5일부터 8일까지 4일 간 진행되었고, 600개가 넘는 세션에서 174개국의 8100명 이상의 참가자들이 모여 성황리에 열렸다고 하는데요. 디지털 기술로 민주주의의 미래를 만드는 비영리 플랫폼 협동조합인 사회적협동조합 빠띠의 크루들도 일부 세션에 참여하여 각 세부 주제에 대해 함께 고민하고 실제 활동으로 이어갈 수 있는 지점을 모색해보는 시간을 가졌습니다. 라이츠콘에 다녀온 빠띠의 크루 제이, 미키, 리디아의 여정과 함께, 디지털 시대에서 더 나은 민주주의를 만들어 가는 빠띠의 이야기를 소개합니다. 요즘 생성 AI가 난리입니다.  생성AI에 관해 살펴보고 있자니, 이 기술이 어디에 좋고 어떻게 활용할 수 있고, 우리는 이제 큰일났다 같은 식으로 이야기가 귀결되는걸 발견했습니다. 이런 신기술이 우리를 휩쓸 때 어떤 논의가 병행되는지 언급하는 콘텐츠를 별로 살펴보지 못했습니다. 그런데 캠페인즈의 인공지능 이슈를 살펴보니 제가 궁금해 하는 이야기들이 많이 올라오더라구요. 국내 사례가 많이 언급되어서 좋았지만, 다른 나라는 생성 AI에 대한 사회적인 대화를 어떤 식으로 진행하는지도 궁금했습니다. 이번 세션은 Maximilian Gahntz 이 진행하고, Abeba Birhane, Irene Solaiman, Hugging Face, Daniel Leufer 세 사람이 대담을 나눴습니다. (이하 본문은 세션 내용을 요약/편집하여 옮겼습니다.) 생성 AI는 잘 작동할 때는 인상적일 수 있지만, 그렇지 않을 때는 인종차별, 여성혐오, 잘못된 정보, 기타 유해한 콘텐츠를 생성하여 역사적으로 소외된 사람들에게 특히 영향을 미치는 것으로 나타났습니다. 생성 AI의 확산과 상용화가 이뤄짐에 따라 이러한 위험은 더욱 증폭될 것입니다. 동시에, 생성 AI가 업계에서 영향력 있는 소수에게 집중되어 플랫폼과 같은 서비스가 변질될 위험이 있으며, 이에 수반되는 문제가 발생할 수 있습니다.  세션에서는 생성 AI 모델에 수반되는 위험을 매핑하고, 개발자가 책임감 있게 모델을 출시하여 출시 전에 피해를 줄일 수 있는 방법을 다루었습니다. 생성 AI에 대해 전 세계 시민사회, 연구계, 업계의 관점을 바탕으로 콘텐츠 필터부터 책임감 있는 AI 라이선스, 특정 모델에 대한 공개 재고 등 무엇을 할 수 있는지에 대한 논의가 진행되었습니다.  Abeba Birhane : Senior Fellow in Trustworthy AI, Mozilla Foundation Abeba는 인지과학자로  새로운 AI 기술의 영향과 개인, 지역 사회를 형성하는 방식을 연구했습니다. Abeba “월드와이드웹에 있는 모든 것이 공개된다는 것이 상식이 되었지만, 이를 다시 생각해야한다.”고 주장합니다. “데이터셋 수집부터 세심한 주의를 기울여야 하는데, 이 과정에서 정보를 데이터 집합으로 사용하기 위해 동의를 구하는 이니셔티브도 없기 때문에 문제”라며, “사망한 어린이나 집단 학살 이미지 등 데이터셋에 들어가면 안되는 이미지들”을 예로 들고 있습니다. 하지만 하드코어 머신러닝 지지자들은 ‘인간과 동등한 수준의 모델을 훈련시키기 위해서는 모든 것을 볼 수 있어야 한다’고 주장하는데요. 이에 “ 다양한 정체성과 문화에 대한 질문을 했을 때 고정관념이 고착화”되는 문제가 발생한다고 반론을 펼칩니다. “웹에서 가져온 거의 모든 데이터셋은 항상 인코딩되어 역사적, 사회적 고정관념을 악화시킨다”는 주장입니다. 이에 데이터셋에 대해 독립적인 연구자들이 이를 감사(Audit)할 수 있는 생태계가 조성되어야 한다고 하는데요. 이를 위해선 머신러닝 커뮤니티 정책과 규제 기관 사이에 많은 논의가 필요하고,  데이터셋 감사에 더 많은 리소스를 투입하여 인센티브를 제공하는 등의 방법을 활용할 수 있다는 제언을 남겼습니다.  Irene Solaiman : Policy Director, Hugging Face Irene은 “시스템이 어떻게 출시되든 위험은 존재합니다. 하지만 이 위험을 막기 위해 모든 시스템을 완전히 닫으면 액세스 권한을 가진 악의적인 행위자가 줄어들 수도 있지만, 중요한 작업을 수행하는 연구자의 수가 줄어들고 시스템을 분석하고 개선하기 위한 커뮤니티 피드백이 줄어듭니다.”라고 주장합니다. 따라서 “시스템의 구성 요소에 따라 환경을 이해하고, 위험을 평가하는 방법을 이해하는 것이 중요하다.”고 강조합니다. 특히 민주적 절차에 영향을 미치는 허위 정보와 잘못된 정보를 살펴보는 것과 어린이와 미성년자를 보호하는 것 또한 강조했습니다.  이를 생성 AI에 접목해서 보자면, “오늘날 인기가 있다고 들었던 생성 AI 시스템이 폭발적으로 증가하고 있지만, 그 임계값이 어디까지인지에 대한 합의가 이루어지지 않고 있으며. 콘텐츠가 누구에게 안전한지 어떻게 판단”할 것인지에 대한 물음을 던졌습니다. *참고자료 (Irene의 관련 논문 : 생성 AI 릴리즈의 그라데이션) Daniel Leufer : Senior Policy Analyst, Access Now Daniel은 두 발제자에 이어 개방형 시스템에 대한 이야기를 꺼냅니다. “상당히 폐쇄적인 API 액세스 모델, 개방형 AI, 마이크로소프트, 구글 등을 통해 막대한 이익을 얻고 있는 기업들 중 일부는 완전 개방형 시스템의 위험성에 대한 공포를 퍼뜨리는 경우가 있”다고 주장합니다. 개방형 시스템이라고는 하지만 “잘 문서화되어 있지 않으면 실제로는 열려 있지 않은 것입니다. 그리고 50억 개의 텍스트 이미지가 포함된 데이터셋을 누군가에게 공개했다고 말하면서 필요한 것을 볼 수 있다고 말하기도 하지만, 이는 말로만 데이터를 공개한 것입니다.”라며 비판하며 Abeba의 주장을 보충 설명 합니다.  또한 “생성AI에 대해 긍정적이든 부정적이든 이야기하는 것을 들을 때 종종 완전히 새로운 해악이나 완전히 새로운 이점을 도입하는 것과 같이 정말 새로운 일을 하는 것으로 프레임을 짜는 경우가 많습니다. 하지만 실제로는 그렇지 않은 경우가 많습니다. 좋은 일과 나쁜 일을 모두 더 쉽게 만들어주는 역할을 합니다. 따라서 이러한 시스템이 세상에 영향을 미치고, 우리의 권리에 영향을 미치는 방식은 갈등을 줄이는 방법과 관련이 있기 때문에 릴리스 전략에 대해 고민하게 됩니다.”라며 세션을 정리했습니다.  생성 AI는 우리에게 어떤 현재와 미래를 가져다줄까요? 세 발제자는 부정적 고정관념을 악화시킬 수 있는 데이터셋에 대한 견제와 이것이 적용되는 시스템의 안전, 허울 뿐인 개방형 시스템에 주의를 기울여야한다고 한 목소리로 강조하고 있습니다.  이런 상황에서 우리는 어떤 것을 할 수 있을까요?  고정관념이 강한 데이터가 그대로 사용되지 않도록 잘못된 데이터를 바로 잡을 필요가 있습니다. 그래서 빠띠는 팩트체크의 중요성을 강조하고 있는데요. 이런 맥락에서 빠띠는 한국기자협회, 방송기자연합회, 한국PD연합회와 공동출자하여 2020년 11월  오픈 팩트체크 플랫폼 ‘팩트체크넷’을 만들었습니다. 이후 2021년 1월 설립된 재단법인 팩트체크넷은  전문가를 포함한 시민의 팩트체크 활동을 안정적으로 지원하기 위한 노력과 실험을 했으나, 2023년 2월 해산되었습니다. 비록 팩트체크넷은 해산되었지만, 각자의 활동 안에 ‘시민 협업 팩트체크’의 가치를 녹여내는 활동을 이어질 것입니다.  이런 ‘시민 참여 팩트체크’의 맥락을 그대로 담고있는 시민 참여 팩트체크 그룹을 소개합니다. 그룹 오거나이저인 빠띠 바다 활동가는 “시민 참여 팩트체크를 통해 더 나은 사회를 만들어 가고자 합니다. 시민 협업 팩트체크 결과물은 시민팩트체커 협업 그룹과 ‘디지털 시민광장’ 캠페인즈를 통해 더 많은 시민에게 전달할 예정입니다. 앞으로 이 여정에 어떤 일들이 있을지는 알 수 없습니다. 하지만 시민 참여 팩트체크가 확산될 때 우리는 더 나은 세상을 마주하게 될 것입니다. 우리에겐 더 많은 시민팩트체커가 필요합니다. 시민 참여 팩트체크가 더 나은 세상을 만드는 여정에 함께해 주세요.”라며 시민이 주도하는 팩트체크의 중요성을 강조했습니다. (관련 글 : 늘어가는 허위정보 확산, 우리는 어떻게 해야할까요?) 지금은 생성 AI가 우리의 관심 영역으로 들어왔지만, 앞으로 어떤 새로운 기술이 이 자리를 차지할지 모릅니다. 하지만 확실한 것은 허위정보와 왜곡된 정보가 데이터로 남아있는한, 누군가에게 위협이 되는 결과물이 계속 재상산 될 뿐입니다. 그렇다면 우리가 당장 할 수 있는 것부터 해야하지 않을까요? 시민 참여 팩트체크가 더 나은 세상을 만드는 여정에 함께해 주세요.

RightsCon은 디지털 시대의 인권에 관한 세계 정상회담이라고 불리는데요. 활동가, 기술자, 정책 입안자, 비즈니스 리더, 언론인, 연구원 및 예술가로 구성된 글로벌 다중 이해 관계자 커뮤니티가 인권과 기술의 교차점에서 가장 시급한 문제에 대해 연결하고 협력하며 변화를 주도할 수 있는 공간입니다. 기술 기업부터 정부 대표, 인권 옹호자까지 모든 이해관계자가 한자리에 모여 권리를 존중하는 디지털 미래를 구축할 수 있는 시민사회 주도의 공간을 만들겠다는 의도로 개최되고 있습니다. 올해는 2011년 RightsCon이 처음 개최된 이후 열두번째이며, 코스타리카에서 온오프라인 병행으로 열렸습니다. 빠띠 활동가 미키, 리디아, 제이는 온라인으로 이번 컨퍼런스에 참여했습니다. 오프닝 세레모니부터 생성AI, 선거, 데이터, 인터넷, 장애, 기후위기 등 전세계적으로 논의가 필요한 각 세션에 참여했는데요. 어떤 이야기가 있었는지 콘텐츠로 정리했습니다. 각각의 콘텐츠에서는 빠띠가 어떤 고민을 갖고 활동을 하고 있는지도 확인할 수 있습니다. 이어지는 콘텐츠를 기대해주세요 :) Big model, big problems? Responsibly releasing generative AI 2024 global year of democracy: stopping Big Tech from breaking elections worldwide Collective, democratic, and just: towards a new global agenda on data governance policy and practice In defense of democracy and the open internet: alliances between Big Tech and civil society in the Asia Pacific (APAC) region Boiling point: online hate in the face of the climate emergency Digital rights for deaf and blind people: how is it going? 오프닝 세레모니는 이번 RightsCon의 주요 이슈에 대한 설명과 이에 대한 대담으로 진행되었습니다. RightsCon을 기획한 Access Now의 공동창업자 Brett Solomon은 이번 컨퍼런스를 기획하며 “시민 사회 스스로를 회복하고, 키우고, 자원화하는 것이 중요한지 알게 되었다.”고 밝혔습니다. 또한 디지털 기술과 인권의 관계에 대해 “우리는 (디지털) 기술이 인권을 훼손하는 것이 아니라 인권 의제가 기술을 형성하도록 요구”해야하며, “지금이야말로 디지털 인권 운동의 힘을 기후 위기에 가져올 때”라고 밝혔습니다.  정치 분석가인 Nanjala Nyabola는 “이번 컨퍼런스에서 논의할 기술 중 일부는 난민과 이주민 문제가 최전선에 있”다고 말합니다. 이어서 “접근성, 포용성뿐만 아니라 감시, 기술, 프라이버시 등 오늘날 디지털 기술 분야에서 직면하고 있는 모든 도전의 최전선에 난민과 이주민이 있습니다. 그래서 우리는 이 오프닝 세션에서 함께 모여 이번 컨퍼런스에서 진행될 모든 세션에서 이 문제를 의제로 삼아 이 문제를 계속 논의했으면 좋겠습니다.”라며 참여자들을 독려했습니다. 이어지는 대담에서는 빅테크와 AI에 대한 이야기가 진행되었습니다.  Alphabet의 사내 변호사인 Kent Walker는 “생성 AI와 이러한 도구를 개발 및 배포하는 사람들은 복잡성과 위험을 완화하는 것뿐만 아니라 사람들의 삶을 개선하고 사회 변화를 해결하기 위해 함께 일할 수있는 방법을 모색하고 있다는 점에서 전 세계와 인권 커뮤니티에 대한 두 가지 책임이 있다고 믿습니다.”라고 주장했습니다. 이어서 “이러한 기술에는 위험도 존재한다는 사실을 다시 한 번 분명히 인식하고 있으며, 이는 국제적으로 인정된 인권 규범과 표준에 따른 공동의 노력이 필요합니다. 따라서 기업의 개별적인 실천과 산업 표준 및 정부 정책이 필요합니다. 우리 앞에 놓인 모든 기회를 활용하고 정책에 대한 국제적 조율을 이끌어내야 할 엄청난 책임, 보안을 강화해야 할 필요성, 그리고 AI의 악의적 사용을 방지하고 문제를 해결하기 위해 공동으로 협력해야 할 필요성이 있습니다.”라고 밝혔습니다. 이에 Digital Futures Lab의 Urvashi Aneja는 “우리가 올바르게 이해하지 못하면 AI가 실제로 사회적 이익을 위해 어떻게 사용될지 상상하기 어렵습니다. 동시에 우리가 살펴봐야 할 또 다른 것은 우리가 보는 것처럼 AI의 개발 또는 기계 학습의 개발이 권력 집중에 전제되어 있고 권력 집중을 재생산한다는 것입니다. 따라서 AI가 실제로 사회적으로 유익 할 수 있는지 여부에는 의문이 듭니다.”라며, “인공 지능이라는 용어는 결국 기술 회사에만 도움이 됩니다. 그것은 일종의 인공 ‘지능’을 강조합니다. 따라서 AI에 대해 이야기 할 때 ‘통계’라고 부르거나 ‘계산 통계’라고 부르기 시작하면 다른 상상을 할 수 있습니다.”고 주장했습니다. 또한 “생성AI로 인해 우리가 보고있는 것 중 하나는 국가들이 AI 경쟁에서 경제적으로 경쟁력을 갖지 못하는 것에 대한 불안감이 있습니다. 그 불안감이 정말 높아졌다.”며 인공지능에 대한 과도한 경쟁에 비판 의견을 밝혔습니다.  Wired의 Gideon Lichfield는 “생성AI가 또 다른 권력 불균형이 되지 않도록 하는 유일한 방법은 사람들이 기술을 사용하는 법을 배우고, 기술의 소유자와 제작자, 그리고 그것을 통제하는 자본에게 이익이 되는 것이 아니라 자신에게 이익이 되는 것으로 만들 수 있는 방법을 배우는 것이라고 생각”한다고 밝히며 인공지능에 대해 어떤 시각을 가져야하는지 관점을 제시했습니다.  클로징 세레모니에서는 중앙아메리카의 페미니즘 불링과 언론의 자유에 대한 대담이 이뤄졌습니다.  이렇게 2023년 RightsCon Costa Rica가 마무리되었습니다. 내년 2024년에는 한국에서 열린다고 하는데요. Accese now 팀은 클로징 세레모니에서 “아시아 태평양 지역을 주목하게 된 이유 중 하나는 아시아 지역에서 디지털 권위주의가 점점 더 강해지고 있고, 기술 분야가 아시아 지역뿐만 아니라 전 세계에 영향을 미치는 방식으로 급성장하고 있기 때문입니다. 그리고 더 중요한 것은 아시아-태평양 지역을 포함하여 국제적으로 인권, 옹호자, 시민사회 간의 연대와 인식, 이해가 필요한 상황입니다.”라며 한국을 포함한 아시아-태평양 지역에서의 개최에 대한 기대를 밝혔습니다.   빠띠는 ‘디지털 기술로 민주주의의 미래를 만드는 비영리 플랫폼 협동조합’인데요. 더 나은 민주주의를 위한 디지털 플랫폼을 시민과 함께 만들고, 운영하며, 공동 소유하는 미래를 만들어가고 있습니다. 특히 ‘민주주의를 위한 미래 기술’을 중요하게 생각하는데요. 기술을 활용한 참여와 협력 프로세스, 시민 기술 활동과 커뮤니티 지원, 개방적 기술 활용과 보급을 위해 활동하고 있습니다. 이런 맥락에서 빠띠는 내년 한국에서 진행되는 RightsCon에서 어떤 이야기를 나누고 있을까요?  앞으로도 빠띠가 나눌 이야기가 궁금하시면, 빠띠의 든든한 후원회원 '빠띠즌'이 되어 주세요. 빠띠는 디지털 기술로 우리의 민주주의를 혁신합니다.