Mon. Nov 21st, 2022

“머신러닝의 시대에 중요한 것은 알고리즘이 아니라 데이터입니다.” 데이비드 케이거, MIT 교수이자 컴퓨터 과학자. Karger는 Musk가 플랫폼을 보다 개방적으로 만들어 다른 사람들이 새로운 방식으로 Twitter를 구축할 수 있도록 함으로써 Twitter를 개선할 수 있다고 말했습니다. “트위터를 중요하게 만드는 것은 알고리즘이 아닙니다.”라고 그는 말했습니다. “트윗을 올린 사람입니다.”

트위터가 어떻게 작동하는지 더 깊이 이해한다는 것은 손으로 쓴 알고리즘 그 이상을 여는 것을 의미하기도 합니다. “코드가 좋고 데이터가 더 좋습니다. 아마도 코드와 데이터를 하나의 모델로 결합하는 것이 가장 좋을 것입니다.”라고 말합니다. 알렉스 잉글러, 인공 지능이 사회에 미치는 영향을 연구하는 브루킹스 연구소의 거버넌스 연구원. Engler는 Twitter의 알고리즘이 수행하도록 훈련된 의사 결정 프로세스를 이해하는 것도 중요하다고 덧붙였습니다.

전체 시스템이 실시간 사용자 행동에 복잡한 방식으로 반응하기 때문에 Twitter에서 사용하는 기계 학습 모델은 여전히 ​​일부일 뿐입니다. 사용자가 특히 뉴스 기사에 관심이 있으면 관련 트윗이 자연스럽게 증폭됩니다. 다른 트위터 소식통은 “트위터는 사회기술적 시스템”이라고 말했다. “인간의 행동에 반응한다.”

이 사실은 보여줍니다 트위터에서 발표한 연구 2021년 12월 데이터에 따르면 이 현상의 역학은 불분명하지만 오른쪽으로 기울어진 위치가 왼쪽으로 기울어진 위치보다 더 증폭됩니다.

“그래서 우리는 감사합니다”라고 말했습니다. 에단 주커만, 공공 정책, 커뮤니케이션 및 정보를 가르치는 매사추세츠 대학교 애머스트 대학교의 교수입니다. “이러한 도구를 만드는 사람들도 결국 놀라운 결점과 결점을 발견하게 됩니다.”

Zuckerman은 Musk가 Twitter를 구매한 공개적인 동기 중 하나는 회사가 최근에 알고리즘 작동 방식에 대해 매우 투명하게 공개했다는 아이러니라고 말했습니다. 2021년 8월, Twitter는 외부 연구원이 편향된 행동을 보이는 이미지 자르기 알고리즘을 사용할 수 있도록 하는 대회를 시작했습니다. 이 문제에 정통한 사람들에 따르면 회사는 콘텐츠를 표시하는 알고리즘을 사용자에게 더 많이 제어할 수 있도록 하기 위해 노력하고 있습니다.

일부 Twitter 코드를 게시하면 투명성이 향상됩니다. 데이먼 맥코이소셜 네트워크를 포함한 크고 복잡한 시스템의 보안 및 개인 정보 보호를 연구하는 뉴욕 대학의 부교수이지만 Twitter를 만든 사람도 작동 방식을 완전히 이해하지 못할 수 있습니다.

Twitter 엔지니어링 팀의 우려는 이 모든 복잡성 속에서 일부 코드가 컨텍스트에서 벗어나 편견의 표시로 강조될 수 있다는 것입니다. 트위터의 추천 시스템이 어떻게 작동하는지 과도하게 공개하는 것도 보안 문제로 이어질 수 있습니다. 추천 시스템에 액세스하면 시스템이 더 쉽게 게임을 하고 인기를 얻을 수 있습니다. 미묘하고 감지하기 어려운 방식으로 기계 학습 알고리즘을 활용하는 것도 가능합니다. McCoy는 “나쁜 사람들은 이제 시스템과 테스트를 탐색하고 있습니다. Twitter 모델에 대한 액세스는 “외부인이 다른 콘텐츠보다 일부 콘텐츠를 홍보하는 데 사용되는 일부 원칙을 이해하는 데 도움이 될 수 있습니다.”

4월 18일 Musk가 Twitter를 인수하기 위한 노력을 강화했을 때 Twitter의 Github(회사에서 일부 코드를 공개한 곳)에 액세스할 수 있는 누군가가 “알고리즘”이라는 새로운 저장소를 만들었습니다. 아마도 개발자들이 이 아이디어를 파고들었을 것입니다. 회사는 운영 방식에 대한 세부 정보를 쉽게 게시할 수 있습니다. 머스크 인수가 발표된 직후 사라졌습니다.

Tom Simonette의 추가 보고.


더 멋진 Wired 스토리

Leave a Reply

Your email address will not be published. Required fields are marked *