In the very beginning of this course, we briefly discussed the importance of AI in today’s and tomorrow’s society but at that time, we could do so only to a limited extent because we hadn’t introduced enough of the technical concepts and methods to ground the discussion on concrete terms.
본 코스의 초반에는, 우리는 현재와 미래의 사회에서 AI의 중요성에 대해 간략하게 논의했지만, 그 때는 구체적인 용어를 논의하기 위한 충분한 기술적 개념과 방법을 도입하지 않았기 때문에 한정된 범위에서만 논의 할 수 있었다.
Now that we have a better understanding of the basic concepts of AI, we are in a much better position to take part in rational discussion about the implications of already the current AI.
이제 AI의 기본 개념을 더 잘 이해하게 되었으니, 우리는 이제 현재의 AI가 시사하는 바에 대해 합리적인 논의를 하기 훨씬 유리한 입장에 있다.
AI, and in particular, machine learning, is being used to make important decisions in many sectors. This brings up the concept of algorithmic bias. What it means is the embedding of a tendency to discriminate according ethnicity, gender, or other factors when making decisions about job applications, bank loans, and so on.
AI, 특히 기계학습/머신러닝은 많은 분야에서 중요한 결정을 내리는 데 이용되고 있다. 이러한 현상은 알고리즘적 편견이라는 개념을 제시한다. 알고리즘적 편견이 의미하는 바는 입사지원서, 은행대출 등에 대한 의사결정을 할 때 민족성, 성별, 기타 요인에 따라 차별하는 경향이 내재되어 있다는 것이다.
<aside> 💡 Once again, it’s all about the data
The main reason for algorithmic bias is human bias in the data. For example, when a job application filtering tool is trained on decisions made by humans, the machine learning algorithm may learn to discriminate against women or individuals with a certain ethnic background. Notice that this may happen even if ethnicity or gender are excluded from the data since the algorithm will be able to exploit the information in the applicant’s name or address.
</aside>
<aside> 💡 다시 한 번 말하지만, 이 모든 것은 데이터에 관한 것!
알고리즘적 편견의 주된 이유는 데이터에 존재하는 인간의 편견이다. 예를 들어, 직무 응용 필터링 도구가 인간에 의해 만들어진 결정을 바탕으로 훈련된 경우, 기계 학습 알고리즘은 특정 인종을 가진 사람이나 여성을 차별하는 법을 배울 수 있다. 주의 할 점은, 데이터에서 인종이나 성별을 제외하더라도, 알고리즘이 신청자의 이름이나 주소에 있는 정보를 이용할 수 있기 때문에 여전히 이러한 현상이 발생할 수 있다는 점이다.
</aside>
Algorithmic bias isn't a hypothetical threat conceived by academic researchers. It's a real phenomenon that is already affecting people today.
알고리즘적 편견은 학문적 연구자들이 제안한 가상의 위협이 아니다. 그것은 이미 오늘날 사람들에게 영향을 미치고 있는 진짜 현상이다.
It has been noticed that online advertisers like Google tend to display ads of lower-pay jobs to women users compared to men. Likewise, doing a search with a name that sounds African American may produce an ad for a tool for accessing criminal records, which is less likely to happen otherwise.
구글과 같은 온라인 광고주들은 저임금 직업 광고를 남성보다 여성 사용자들에게 더 노출 시키는 경향이 있는 것으로 나타났다. 마찬가지로, 아프리카계 미국인처럼 들리는 이름의 검색을 할 경우에, 그렇지 않는 경우 일어나지 않을 경우와 비교 했을때, 범죄 기록을 제공하는 서비스에 대한 광고를 보게 될 가능성이 있다.
Since social networks are basing their content recommendations essentially on other users’ clicks, they can easily lead to magnifying existing biases even if they are very minor to start with. For example, it was observed that when searching for professionals with female first names, LinkedIn would ask the user whether they actually meant a similar male name: searching for Andrea would result in the system asking “did you mean Andrew”? If people occasionally click Andrew’s profile, perhaps just out of curiosity, the system will boost Andrew even more in subsequent searched.
소셜 네트워크는 기본적으로 그들의 콘텐츠 권장사항을 다른 사용자의 클릭에 기초하고 있기 때문에, 설사 아주 미미한 편견이더라도 이 편견을 확대, 생산시키게 될 수도 있다. 예를 들어, 여성 이름을 가진 전문가를 검색할 때 링크드인은 사용자에게 실제로 유사한 남성 이름을 의미하는지 물어본다는 것이 관찰되었다. 안드레아를 검색하면 "앤드류를 의미한 것인가요?" 라고 시스템이 묻는 것이다. 사람들이 가끔 궁금해서 앤드류의 프로필을 클릭한다면, 그 시스템은 후속 검색에서 앤드류를 더욱 활성화시킬 것이다.
There are numerous other examples we could mention, and you have probably seen news stories about them. The main difficulty in the use of AI and machine learning instead of rule-based systems is their lack of transparency. Partially this is a consequence of the algorithms and the data being trade secrets that the companies are unlikely to open up for public scrutiny. And even if they did this, it may often be hard to identify the part of the algorithm or the elements of the data that lead to discriminating decisions.
이밖에도 이야기 해 볼 수 있는 다른 예들이 있고, 아마 그들에 대한 뉴스 이야기를 본 적도 있을 것이다. 규칙 기반의 시스템 대신에 AI와 머신러닝을 사용하는 데 따르는 주요 어려움은 투명성의 부족이다. 부분적인 이유로는, 이것은 알고리즘의 결과이며, 그 데이터는 회사의 영업비밀이기 때문에 기업들이 공공의 조사를 위해서 개방할 가능성이 적기 때문이다. 그리고 그들이 데이터를 개방한다고 하더라도, 차별적인 결정에 이르게 하는 알고리즘의 부분이나 데이터의 요소를 식별하는 것은 어려울 수 있다.
<aside> 💡 Transparency through regulation?
A major step towards transparency is the European General Data Protection Regulation (GDPR). It requires that all companies that either reside within the European Union or that have European customers must:
</aside>
<aside> 💡 규제를 통한 투명성? 투명성을 향한 주요 단계로 유럽 일반 데이터 보호 규정 (The European General Data Protection Regulation) 이 있다. 유럽 연합 내에 상주하거나 유럽고객을 보유한 모든 기업은 다음 사항을 준수해야 한다.
</aside>
The last point means, in other words, that companies such as Facebook and Google, at least when providing services to European users, must explain their algorithmic decision making processes. It is, however, still unclear what exactly counts as an explanation. Does for example a decision reached by using the nearest neighbor classifier (Chapter 4) count as an explainable decision, or would the coefficients of a logistic regression classifier be better? How about deep neural networks that easily involve millions of parameters trained using terabytes of data? The discussion about the technical implementation about the explainability of decisions based on machine learning is currently intensive. In any case, the GDPR has potential to improve the transparency of AI technologies.
마지막 요점을 다시 말하자면, 페이스북이나 구글같은 회사들이 적어도 유럽 사용자들에게 서비스를 제공할 때 있어서, 그들의 알고리즘적인 의사결정 과정을 설명해야 한다는 것을 의미한다. 그러나 정확히 무엇이 설명으로 여겨지는지는 여전히 불분명하다. 예를 들어 가장 가까이 있는 동네 광고 (벼룩신문)를 (4장) 사용하여 도달한 결정은 설명 가능한 결정으로 간주되는가, 아니면 로지스틱 회귀 분류기의 계수가 더 나은가? 테라바이트 규모의 데이터를 사용하여 훈련된 수백만 개의 매개변수를 다루는 심층 신경망은 어떤가? 머신러닝/기계학습에 기초한 의사결정의 설명가능성에 대한 기술적 구현에 대한 논의는 현재 치열하다. 어쨌거나, GDPR은 AI 기술의 투명성을 높일 수 있는 잠재력을 가지고 있다.
We are used to believing what we see. When we see a leader on the TV stating that their country will engage in a trade-war with another country, or when a well-known company spokesperson announces an important business decision, we tend to trust them better than just reading about the statement second-hand from the news written by someone else.
우리는 우리가 보는 것을 믿는 것에 익숙하다. TV에서 국가 지도자가 다른 나라와 무역 전쟁을 벌일 것이라고 말할 때나, 또는 유명한 회사 대변인이 중요한 사업 결정을 발표할 때, 우리는 다른 사람이 쓴 뉴스에서 간접적으로 그 성명서를 읽는 것보다 그들을 더 신뢰하는 경향이 있다.