플랫폼 기업의 알고리즘 공개 필요할까요?

“한정된 일감을 배분하는 기준, 앱에 접속한 라이더의 숫자와 주문량, 배달료 산정 기준 등 정보가 투명하게 공개되어야 배달노동자들이 판단할 수 있다” 라는 의견에 전적으로 동의합니다.

알고리즘을 비공개하는 것이 당연한것으로 여겨진다면 앞으로의 미래에는 우리의 개인프라이버시는 설 곳이 없을 것입니다. 기본적이며 당연한 권리입니다.

'AI가 노동자의 노동강도와 임금을 결정한다.' 이 말은 정말 섬뜩할 정도로 무서운 말인 것 같습니다. 이전에 배달 라이더 분과 이야기를 나눈 적이 있는데요. 제 시간에 배달을 가지 못하면, 이후에 배당률이 떨어져서 그 때문에라도 거절하지 못하고 위험을 감수하면서까지 빨리 달린다고 하더라구요. 실제로 이 때문에 가벼운 접촉사고도 있었다고 해요.

물론 기업의 지적재산권도 존중해야 하고, 이용자의 입장도 중요하지만, 사람의 목숨보다 중요한 게 있을까요? AI는 도구일 뿐, 결코 인간의 우위에 설 순 없습니다. 그리고 이건 AI의 문제만이 아니라 AI를 도구로 사용하는 플랫폼 기업과 이용자, 우리 모두가 간과해선 안 되는 문제라고 생각합니다.

알고리즘은 플랫폼 기업의 핵심입니다. 한 기업의 알고리즘이 공개된다면 경쟁 관계에 있는 기업은 그 알고리즘을 보면서 본인의 기업 알고리즘을 개편할 것이라는 걱정이 드는데요, 그런데 지금 나타나는 문제점들을 보면 분명 해결방법은 필요하기에 한 항목을 선택하기가 어렵네요.

이제는 AI가 인간의 효율적인 노동 시간까지 계산하는 시대라니 정말 놀랐어요. 그리고 그 과정에서 라이더의 과중한 노동 책임이 생길 수 있다는 문제도 있군요!

이렇게 AI의 개입과정에서 라이더들에게 과도한 업무량이 가는 것은 문제라고 생각하지만 그렇다고 기업의 알고리즘을 공개해야하는지까지는 아직 잘 모르겠어요. 기업의 이익과 관련된 부분이기도 하고, 아직 이런 AI 기술에 대한 논의가 충분히 이루어지지 않은 상황이라 조금 고민이 필요할 것 같습니다.

만약 그 과정에서 노동자들에게 업무에 대한 부담이 가진다면 먼저 알고리즘을 공개하기보다는 해당 플랫폼 차원에서 책임감을 가지고 노동 책임이 부과되지 않도록 새로운 해결책을 내놓아야 할 것 같아요.

그니까요;; 당연 공유해야하는 문제 같은데, 또 플랫폼이 노다지인게 돈 뿐 아니라 데이터셋들도 자산화하고, 데이터를 처리하는 방식도 자산화하고 있어서, 구글이나 메타 같은 곳도 그렇고, 아주 저런 생각이 상식이어서 '굳이 내가 왜 공유해야함, 우리 기술임'이라는 답이 아주 쉽게나오는 것 같아요. 그래서인지 카카오모빌리티 같은 곳도 비슷한 논란을 알고리즘 공개가 아니라, 배차알고리즘을 그들이 설립한 학회, 정확히는 카카오가 세운 재단이었나요... 그 곳의 연구진들을 통해서 검증하는 것이었죠? 허허;; 결국 공개되지는 않은거죠. 

문제제기에 충분히 공감합니다. 하지만 기업 입장도 이해해보려고 합니다. 기업의 자산이자 영업비밀인 알고리즘을 공개한다고 했을 때 해당 기업이 받을 손실이 우려될 것이고, 해당 알고리즘을 기반으로 한 다른 기업이 시장에서 더 나은 경쟁력을 얻는다면 손실만 더 커지는게 아닐까요? 따라서 공개는 하되 어디까지 할 것인지를 노동자와 기업이 논의해야한다고 생각합니다.

기업 측에서는 알고리즘을 통해 소비자들의 소비를 빅데이터화하고 수익을 얻고 있는데, 그게 영업기밀로만 치부되고 소비자와 노동자의 권리보장 측면에서는 아무 정보도 얻을 수 없는 상황이 이해가 잘 안 가네요...심지어 그 알고리즘으로 배달 노동자들을 관리감독하고 수익구조까지 파악할 수 있는 상황인 것으로 알고 있는데, 제제님 말씀처럼 적어도 어떤 알고리즘을 통해 노동자들이 통제되고 있는지 정도는 공개되어야 한다고 생각합니다(이미..소비자 소비패턴 빅데이터는 대부분의 기업에서 정보를 가지고 있기 때문에...)

투명하고 공개하면 플랫폼 이용자도 편하고, 운영자들도 분쟁의 소지가 줄어들어서 편할 것 같은데 왜 안 할까요...?

사회적 합의가 없는 상태에서 기업만 그 정보들을 가져야 하는지. 사회적 합의가 없다면 빨리 정보를 공개해서 공론화를 시키든 아니면 사회적 합의를 하자고 기업이 나서든 해야할텐데. 소비자들의 정보만 몰래 빅데이터화 시켜서 사용하고 수익 창출하는데 사용하겠죠.

중앙일보에 언급된 저 답변은 아주 오만한 태도네요.

수익이 발생하는 곳에는 책임이 따릅니다. 알고리즘을 통해 일하는 사람을 관리 및 중개하고 그 결과로 수익이 발생합니다. 그런데 알고리즘을 공개하지 않는다면, 결국 알고리즘으로 인해 발생하는 수익만 취하고 책임은 부담하지 않는 것이 아닐까요? 알고리즘을 전부 공개할 수 없겠지만, 일하는 사람의 상황을 통제하는 내용은 공개해야 한다고 생각합니다. 기업에서 취업규칙을 노동자가 볼 수 있도록 게시해야 하는 것과 마찬가지입니다.

플랫폼 기업에게 있어 알고리즘은 핵심적인 지적재산인 만큼 전면적으로 공개할 것을 요구하는 건 무리지 않을까 싶습니다. 그러나 배달료 산정 기준 등 노동조건과 관련된 내용의 경우 노동권과 공정성의 측면에서 구체적으로 정보를 공개할 필요가 있다고 생각합니다.

첨부된 자료를 읽어보니 EU에서는 이미 플랫폼 알고리즘과 관련한 논의가 이뤄졌네요. 전면 공개가 아니더라도 이용자인 시민과 플랫폼에 노동을 제공하는 노동자가 확인할 수 있도록 공개가 필요하다고 생각합니다.

플랫폼은 모든 시민들의 핵심 소통 수단이 되는 독점적 성격을 지니게 되는 경향이 있습니다. 그 말은 곧 개인과 집단의 행위가 플랫폼으로부터 자유롭지 못하고 종속되는 경향이 발생한다는 것입니다. 그런데 플랫폼은 대부분 자본이 소유하고 있으며 이윤의 논리, 그 외의 소수의 숨겨진 의도에 의해 돌아가게 됩니다. 플랫폼의 알고리즘에 그중에서도 핵심적인 것입니다. 이러한 관점에서 대부분의 시민들이 사용하는 플랫폼의 알고리즘을 시민들이 알 수 없고 시민들에 의해 선출된 국가권력이 통제 할 수 없게 된다는 것은 반민주주의적인 방향으로 간다는 것과 다름이 없습니다. 때문에 알고리즘은 공개되어야 합니다. 다만 이 주장은 구체적인 맥락들을 고려한 것은 아니기 때문에, 어느정도를 어떤 방식으로 공개하고 운영해야 하는지에 대해서는 사회적 논의가 더 필요할 것 같습니다.