인공지능을 활용하는 기업들의 다각도 분석(마케팅 시사점)

해당 사례를 다각적으로 분석해보면 다음과 같은 문제점이 있다.

 

첫째, 데이터셋의 편향이다. 데이터셋의 편견으로 인해 성별, 인종 또는 성격, 취향과 같은 일부 민감한 변수는 역사적 또는 사회적 불평등의 반영으로 알고리즘의 학습에 영향을 미칠 수 있다는 점이다. 예를 들어 개인적 내지 사회 계층적 취향 기반의 차별 또는 잘못 보정된 통계적 차별과 같은 편향은 AI 시스템의 학습 시 입력으로 사용되는 데이터셋에서부터 유래될 수 있다.

 

둘째, AI 채용시스템 알고리즘의 일반적 공식화에 대한 관리자의 편견이다. 인적 자원 관리와 같은 경영 의사 결정에 AI를 적용하기 위해서 일하는 관리자의 개인적 가정 혹은 편견이 알고리즘에 개입될 수 있는 개연성이 존재한다. 회사는 AI 채용시스템 알고리즘을 개발하기 위해 의사결정 프로세스에 필요한 채용 여부 판단 기준을 명확히 규정해야 한다. AI 기반 알고리즘을 설계할 때는 마지막에 기대하는 목표를 얼마나 잘 달성했는가를 판별해 주는 목적 함수가 필요하다. 그러나 의사결정에 필요한 목적함수를 개념화하여 수치적으로 코딩하는 것은 어려운 일이다. 그러나 딥러닝 기반 AI 알고리즘으로 분석한 성과가 좋은데도 불구하고 왜 그러한 의사결정이 내려졌는지에 대한 질문에 대하여 알고리즘 개발자가 대답하지 못하는 경우가 너무나도 많기 때문이다.

 

셋째, 데이터 준비에 대한 개발자의 편견이다. 관리자의 과거 결정과 같이 하나의 데이터 소스에만 의존하는 것은 앵커링 편향을 초래할 수 있다는 점을 감안할 때, 머신러닝 알고리즘 훈련에 더 다양한 데이터셋을 사용해야 한다는 것이다. 또한 선형회귀와 같은 모델을 사용하면 누락된 데이터의 불확실성을 고려하지 않기 때문에 변수 간의 상관관계가 과대평가 할 수 있다. 같은 방식으로 이 연구에서는 데이터의 품질에 영향을 미치는 알고리즘의 입력으로 사용되는 데이터셋에 누락된 정보가 있다고 설명한다.

 

넷째, 알고리즘 공식화에 대한 개발자의 편견이다. 알고리즘을 개발하기 위해 먼저 개발자는 최종 사용자의 가정을 공식화해야 한다. 알고리즘 개발자는 AI 채용시스템 알고리즘 처리하는 데이터의 일련의 요인을 개별적으로 검토할 수 없으며 처리되는 데이터에서 어떤 채용 기준이 중요하고 어떤 가중치가 있는지 명시적으로 설명할 수 없다. 그리고 연구 결과에 따라 HR 관리자의 고성과자의 직무 기능에 대한 부적절한 이해가 알고리즘의 일반적 공식화에 편향성을 유발할 수 있다. 대칭 및 상호 배타적 편향과 같은 부적절한 상관 가정과 관련된 편향은 가정이 공식화되는 동안 발생할 수 있다. 관리자가 최적의 후보자를 고용하기 위한 최적의 기준에 동의하지 않을 수 있으므로 최적의 변수 집합을 선택하는 것이 어렵다. 최적의 변수 집합을 부적절하게 선택하면 알고리즘을 공식화하는 데 문제가 발생한다.

 

 비즈니스 컨텍스트에서 인공 지능(AI)은 조직에 의사 결정 및 계획에 대한 귀중한 통찰력을 제공하도록 설계되었다. AI는 관리자가 결정을 내리는 데 도움이 될 수 있지만 알고리즘에 내장된 데이터셋 및 암묵적인 편향과 같은 전례없는 문제를 제기할 수 있다. 관리자가 편향되지 않은 효과적인 결정을 내리도록 지원하려면 AI도 편향되지 않아야 한다. 따라서 AI의 설계 및 사용에서 발생할 수 있는 편향을 사전에 식별하는 것이 중요하다.

 

 마케팅 시사점 도출

 

마케팅 시장에서 인공지능의 영향력이 점점 커지고 있다. 고객이 원하는 상품들의 정보를 빅데이터를 통해서 분석한 후, 이를 기초로 광고를 내보내는 인공지능은 이제 디지털 시대에서 마케팅 시장의 핵심 브랜드 홍보대사로 자리잡았다. 인공지능을 이용한 마케팅 시장의 성장이 앞으로 빠른 속도로 성장할 것으로 예상하고 있다. 마케팅 인공지능의 적용 분야도 매우 다양하다. 마케팅 인공지능 시장은 산업의 분야를 가리지 않고 급격하게 성장할 것으로 보인다. 고객이 원하는 상품을 빅데이터에 대한 분석을 통해서 맞춤 광고가 가능한 인공지능이 주목받고 있다. 이에 따라 마케팅용 인공지능 시장도 급격하게 성장할 것으로 예측된다.

 

 인공지능(AI)은 인간처럼 작동하고 반응하는 지능적인 기능을 수행할 수 있으며 지능형 기계를 생성할 수 있는 컴퓨터 과학 분야이다. 기계는 이미 작업에서 인간의 노력을 대체했지만, 오늘날 인간과 기계의 기술 협력은 인간의 능력을 계속해서 발전시켜 나아가는 것으로 생각이 바뀌어 가고 있다. 기술은 인간을 대체하는 것이 아니라 지원하는 것이다. AI기술은 이제 고속 개발 단계에 도달했으며, 많은 인지 중심 역할을 지원하고, 잠재적인 능력으로 대체할 수 있는 수많은 산업에 영향을 미치고 있는 것이다. 인간의 판단과 인지 능력을 모방하며 이러한 신호를 기반으로 AI 시스템은 위험을 평가하고 결과를 예측하여 의사결정을 한다. 기술이 오랫동안 인간의 자아 형성에 필수적이었지만 이제는 AI기술과 사람들의 상호작용에서 인간 사이와 유사한 실제처럼 작용한다는 것이다. 인간에게 영감을 받은 AI는 인지적 요소뿐만 아니라 감성 지능, 이해도, 인지적 요소 등 의사결정을 고려하는 인간의 감정을 모사하여 표현하고 있다.