본문 바로가기
카테고리 없음

인간은 기계에 얼마나 의존해야될까?

by Issuetok 2022. 9. 25.

스스로 결과를 만드는 기계들

지금부터 다룰 내용은 인공 지능의 알고리즘과 관련된 스팸필터, 신용카드 부정행위 탐지, 검색엔진, 뉴스 트렌드, 시장 세분화 및 광고, 보험 또는 대출 자격, 신용평가 등 사회적인 문제를 발생할 수 있는 사항들을 짚어보도록 하겠습니다. 이것들은 우리가 생성하는 개인 데이터와 추적 데이터가 네트워크로 연결된 선진 자본주의 사회에서 매일 적용되는 분류 메커니즘의 일부라는것을 먼저 말씀드립니다. 이러한 분류 메커니즘은 모두 계산 알고리즘에 의존하는 경우가 많으며, 최근에는 이 작업을 하기 위한 기계 학습 알고리즘에 의존하고 있습니다. 불투명성은 법률학자들과 사회과학자들 사이에서 인공 지능 알고리즘에 대한 새로운 우려의 핵심인 것 같습니다. 해당 AI의 알고리즘은 데이터에서 작동됩니다. 그들은 이 데이터를 입력 자료로 사용하여 산출물을 생산합니다. 특히 신청자에게 대출을 줄 것인지, 또는 전자 메일을 스팸으로 태그할 것인지에 대해 얘기합니다. 알고리즘의 산출물을 받는 사람일 경우, 특정 분류가 입력으로부터 어떻게 또는 왜 도달했는지에 대한 구체적인 감각을 갖는 경우는 거의 없다는 점에서 불투명합니다. 또한 입력 자체는 완전히 알 수 없거나 부분적으로만 알려져 있을 수 있습니다. 자연스레 의문이 생기는데 이 상태를 모르는 이유는 무엇이겠습니까?. 왜냐하면 인공 지능 알고리즘은 매우 복잡하거나 기술적이기 때문입니다. 이 주제에 대해 새롭게 대두되는 문제들에 대해 불투명성의 형태를 구분함으로써 경제적 불평등과 사회적 이동성과 같은 사회학자에게 오랫동안 우려되는 문제에 대한 알고리즘 분류의 다양한 정의를 강조하고자 합니다. 불투명성의 세 가지 뚜렷한 형태는 첫번째, 의도적인 기업 또는 기관의 자기 보호와 은폐로서의 불투명성, 그리고 그와 함께 속임수를 알 수 있는 가능성입니다. 두번째, 작문 코드가 전문 기술인 현 상태에서 기인하는 불투명성입니다. 세번째, 불일치의 문제입니다. 인공 지능 기계 학습의 높은 확률 특성 및 인간 규모의 추론과 의미 해석 스타일의 요구에서 수학적 최적화가 발생합니다. 이 세 번째 형태의 불투명성은 인공 지능 알고리즘과 코드가 매우 기술적이고 복잡하다는 일반적인 감각의 일부로서 종종 두 번째 형태와 혼동됩니다. 이러한 형태의 불투명성을 심층적으로 검토함으로써 나는 차별적 분류에 대한 평가 방법으로 코드나 알고리즘의 단점을 확인 할 수 있습니다. 이 불투명도 문제를 조사하기 위해, 특히 인공 지능 알고리즘 자체에 들어가야 하는 과제에 대해, 나는 컴퓨터 과학의 기존 문헌, 알려진 산업 관행을 인용하고, 경량 감사의 형태로 코드의 일부 시험과 조작을 행하고 조작을 인용하고 있습니다. 그 과정에서, 이러한 불투명도 형태를 기계학습 분류의 불가해성을 다루기 위해 제안된 기술적 및 비기술적 해결책과 연관시키며 각각의 형태는 해를 예방하기 위한 뚜렷한 해결책을 제시할 수 있습니다. 그렇다면, 새로운 것은 무엇입니까?. 인공 지능 기계의 알고리즘이라는 단어는 최근 컴퓨터 과학자들 사이에서 거의 독점적으로 사용되는 모호한 기술적 용어에서 양극화된 담론에 첨부된 용어로 바뀌면서 공개적인 발표의 변화를 겪고 있습니다. 이 용어는 주류 언론에서 점점 더 많이 등장합니다. 예를 들어 전문기구인 전국간호사연합은 알고리즘은 아무도 이해하지 못하는 단순한 수학 공식이라고 비꼬는 목소리에서 시작해 간호사가 질병 진단 시스템으로부터 고통받는 환자를 구조하기 위해 달려드는 것으로 마무리하는 라디오 스팟을 제작했습니다. 환자의 상태에 대해 우스꽝스럽게 잘못된 일련의 선언을 하는 암시입니다. 공익캠페인의 목적은 프로페셔널 케어를 옹호하는 것으로, 이 경우 오류 발생 가능성이 높은 자동화에 대비합니다. 이와는 대조적으로 알고리즘이라는 용어의 기업 브랜드화에 대한 노력은 편향된 인간의 의사결정에 대한 알고리즘 객관성의 개념을 활용합니다. 이와 같이 용어의 함축은 광고 문화와 기업의 자기표현의 일부로서 능동적으로 형성되고 있을 뿐만 아니라 자동화, 기업의 책임성 및 미디어 독점에 대한 일반적인 우려로 나타나고 있습니다. 이러한 뉴미디어가 참신할 수도 있지만, 대기업은 그 대상자에게 충분히 이해되지 않는 내부 절차를 밟은 것은 오래전부터 있었던 일입니다. 이 절차들은 인공 지능 알고리즘이라고 공정하게 묘사될 수 있습니다. 그렇다면 이 용어의 새로운 용어와 함께 떠오르는 비평과 분석은 다음과 같습니다. 불투명도 조사의 방법 및 접근법을 보자면, 일반적으로 널리 사용되고 있는 많은 중요한 분류 알고리즘에 대해서는 코드를 직접 볼 수 없다고 나옵니다. 이러한 불투명성은 독점적 우려 때문에 존재합니다. 하지만 이러한 알고리즘이 사용하는 일반적인 컴퓨터 설계는 교육 자료에서 도출하여 예방 할 수 있습니다. 이를 위해 부분적으로 특정 머신러닝 모델의 고전적인 예시 사례에서 학부 교육에 사용되는 종류를 찾습니다. 이 경우 기계 학습의 과정에 대한 프로그래밍 과제를 구체적으로 검토합니다. 이러한 예들은 개인용 컴퓨터에서 실행되도록 축소된 컴퓨터 아이디어의 매우 간단한 버전을 제공하여 사용자들이 즉시 출력을 반환할 수 있도록 합니다. 이러한 예는 많은 가시적이고 실제적인 애플리케이션 과제를 안고 있는 대립을 강요하지는 않습니다. 하지만 단순화에도 불구하고 불투명성이 지속되는 방법들은 그것을 극복하기 위한 한계에 대해 중요하고 근본적인 것을 드러냅니다. 인공 지능 머신러닝 알고리즘은 현재 알고리즘의 정치라는 가치 아래 놓일 수 있는 것을 연구하는 학자들에게 관심의 알고리즘을 모두 포괄하는 것은 아닙니다. 그러나 그들은 전형적으로 분류 과제에 적용되고 사회적으로 결과적인 선결성을 위해 사용되기 때문에 구체적으로 고려하는 것이 흥미롭습니다. 이 대출 신청자가 채무불이행 가능성이 얼마나 되는가?.와 같은 다양한 관심 영역(검색 엔진 또는 신용 평가 등)에서 구현된 알고리즘의 광범위한 영역에서 머신러닝 알고리즘이 중심 또는 주변적인 역할을 할 수 있으며 어느 것이 그러한지 항상 쉽게 알 수 있는 것은 아닙니다. 예를 들어, 검색 엔진 요청은 알고리즘으로 구동되지만 검색 엔진 알고리즘이 핵심인 기계 학습은 알고리즘이 아니기 때문입니다. 검색엔진은 광고나 노골적인 검색 순위 조작을 탐지하고 사용자의 위치를 기준으로 검색 결과의 우선순위를 정하는 등 특정한 목적을 위해 머신러닝 알고리즘을 채용하고 있습니다. 인공 지능 알고리즘 머신러닝이 적용되는 과제가 모두에게 해당되는것은 아니지만 이는 응용의 핵심 분야로 사회학적 우려가 많이 발생하는 분야입니다. 분류와 그 결과에 대한 그들의 설명에서 각 범주는 어느 정도 관점을 용맹하게 하고 다른 범주를 침묵시킨다고 언급하고 있습니다. 알고리즘이 더 객관적으로 분류될 필요성이 있다는것은 인간의 판단 정도를 감안할 때 단순히 다루는 사람의 판단을 그대로 받아들일 수 없기 때문입니다. 인간 작업에는 특징 정의, 교육 데이터 사전 분류, 임계값 및 매개변수 조정 등이 포함됩니다.

댓글0