인공 지능의 윤리

윤리란 무엇입니까?

윤리는 개인이나 집단의 행동이나 행동을 지배하는 도덕 원칙으로 정의할 수 있습니다.

즉, “규칙” 또는 “결정 경로”는 무엇이 좋고 옳은지 결정하는 데 도움이 됩니다. 이를 감안할 때 기술의 윤리는 단순히 “행동”을 결정하는 데 사용되는 “규칙” 또는 “결정 경로”의 집합이라고 말할 수 있습니다. 결국, 기술은 항상 좋거나 올바른 결과를 위한 것이 아닙니까?

제대로 설계되고 테스트되면 소프트웨어 제품은 이러한 일련의 규칙 또는 결정 경로를 통해 예측 가능한 입력에 대한 예측 가능한 출력에 도달합니다.

그러나 팀은 무엇이 좋고 올바른 결과인지, 그리고 누구를 위한 것인지 어떻게 결정합니까? 보편적으로 좋은가요 아니면 일부에게만 좋은가요? 특정 상황에서는 좋고 다른 상황에서는 그렇지 않습니까? 어떤 척도에는 좋지만 다른 척도에는 좋지 않습니까? 이러한 토론에서 팀이 선택한 질문과 답변이 중요합니다. 거기에 윤리가 있습니다.

기술의 윤리는 창조의 윤리, 창조자의 윤리에서 시작됩니다.

왜 윤리인가?

이미지를 예측하도록 훈련된 기계 학습 모델을 상상해 보십시오. 거대하고 복잡하며 값비싼 컴퓨터에서 엄청난 양의 데이터를 훈련하는 데 수개월이 걸립니다. 그러나 일단 완료되면 사용하기 쉽습니다.

AI가 인간과 같은 결과를 생성할 수 있다면 인간과 같은 결정도 내릴 수 있을까요? 스포일러 경고: 예 가능합니다. 이미 제작 중입니다. 그러나 인간과 같은 것으로 충분합니까? 기계가 인간과 같은 산출물을 생성하고 인간과 같은 결정을 내리는 세상에서 신뢰 는 어떻게 될까요? 자율주행차가 우리를 본 것을 믿을 수 있습니까? 알고리즘이 공정하다고 믿을 수 있습니까? 우리를 위해 삶과 죽음의 결정을 내릴 만큼 의료 분야의 AI를 신뢰할 수 있습니까?

기술 전문가로서 우리는 이것을 뒤집어서 다음과 같이 질문해야 합니다. 어떻게 하면 알고리즘 시스템을 신뢰할 수 있게 만들 수 있습니까?

윤리를 입력하십시오.

AI의 윤리

지금까지 우리는 윤리, 기술이 중립적이지 않은 이유, 이것이 갖는 의미를 이해했습니다. 그러나 이것을 입력에서 출력으로의 경로가 보이지도 않고 명확하지도 않은 AI에 어떻게 적용할 수 있습니까? 출력이 확실성이 아니라 단지 예측인 경우?

AI에서 특히 기계 학습, 누락된 데이터, 누락된 입력, 누락된 결정 경로 및 누락된 토론은 모두 예측의 “품질”과 관련이 있습니다.

즉, AI의 윤리는 예측의 윤리적 품질, 그로부터 도출된 최종 결과, 인간에게 미치는 영향에 있습니다.

예측의 윤리적 품질, 최종 결과 또는 인간에 대한 직간접적 영향을 가리키는 문제는 범주로 요약할 수 있습니다.

결론

윤리는 매우 중요하며 우리가 만드는 모든 AI 및 ML 모델은 윤리를 따라야 합니다.