부모지도 : 소셜 미디어 기록을 기반으로 베이비 시터를 평가하는 데 사용되는 '인공 지능'

함유량:

Jessie Battaglia는 한 살짜리 아들을위한 새로운 베이비 시터를 찾기 시작했을 때 형사 배경 수표, 부모의 의견 및 직접 대면 인터뷰에서 얻을 수있는 것보다 더 많은 정보를 원했습니다.

그래서 그녀는 베이비 시터의 개성을 평가하기 위해 "고급 인공 지능"을 사용하는 온라인 서비스 인 Predictim을 사용하여 한 후보자의 수천 개의 Facebook, Twitter 및 Instagram 게시물에 스캐너를 겨냥했습니다.

수면 부족이 고문처럼 느껴지는 이유를 궁금해하십니까? 그 이유는

'날짜 밤'의 현실 : 실제로 일어나는 방법

이 시스템은 24 세의 후보자에게 마약 중독자라는 "매우 낮은 위험"을 안고 있다고 말하는 자동화 된 "위험 등급"을 제시했습니다. 그러나 괴롭힘, 괴롭힘, "무례"하고 "나쁜 태도"에 대한 위험 평가는 5 점 만점에 2 점으로 약간 높습니다.

이 시스템은 왜 그 결정을 내 렸는지 설명하지 못했습니다. 그러나 시터가 믿을만하다고 믿었던 Battaglia는 갑자기 의심의 여지를 느꼈다.

"소셜 미디어는 사람의 성격을 보여줍니다."라고 로스 앤젤레스 근처에 사는 Battaglia (29 세)는 말했다. "왜 그녀는 2 살이 아닌 1 살이 아닌가?"

Predictim은 수십개의 다른 기술 회사가 전 세계 고용주에게 판매하는 것과 동일한 플레이 북을 부모에게 제공하고 있습니다. 인공 지능 시스템은 개인의 연설, 얼굴 표정 및 온라인 기록을 분석하여 개인적인 삶의 숨겨진 측면을 공개하겠다고 약속합니다.

이 기술은 일부 회사에서 직원 모집, 채용 및 검토에 접근하는 방식을 바꾸고 있으며, 침입 형 심리 평가 및 감시의 새로운 물결을 통해 고용주에게 탁월한 채용 후보를 제공합니다.

기술 회사 인 파마 (Fama)는 인공 지능을 사용하여 근로자의 소셜 미디어에 "유독 한 행동"을 경고하고 상사에게 경계를 알린다 고 말했습니다. Geico, Hilton 및 Unilever와 같은 회사와 함께 일하는 모집 기술 회사 인 HireVue는 비디오 인터뷰 중 지원자의 언어, 단어 선택 및 얼굴 움직임을 자동으로 분석하여 취업 기술 및 태도를 예측하는 시스템을 제공합니다. (최상의 결과를 얻으려면 미소를 지을 것을 권장합니다.)

그러나 비평가들은 Predictim과 유사한 시스템이 자동화되고 아마도 인생을 바꾸는 결정을 사실상 확인하지 않음으로써 그들 자신의 위험을 제시한다고 말한다.

이 시스템은 사람의 내적 삶의 복잡성을 미덕이나 해로움 계산에 어떻게 줄일 수 있는지에 대해 거의 알려주지 않은 블랙 박스 알고리즘에 의존합니다. 그리고 Predictim의 기술이 부모의 사고에 영향을 미치더라도, 적절한 베이비 시터가 어떻게 공유하고, 보고 말하고 있어야하는지에 대해서는 완전히 설명되지 않고 설명되지 않고 조용한 편견에 취약합니다.

테크 옹호 단체 인 디지털 민주주의 센터의 제프 체스터 (Jeff Chester) 전무 이사는 AI가 인간에 대한 책임을 지키지 않고 모든 결정을 내릴 수 있도록 AI의 힘을 쥐고있는이 "미친듯한 서두가있다"고 말했다. "사람들이 디지털 쿨 에이드 (Kool-Aid)를 마시고 이것이 우리의 삶을 지배하는 적절한 방법이라고 생각하는 것과 같습니다."

Predictim의 스캔은 가장 어린 시터의 대부분이 그들의 삶의 대부분을 감당할 수있는 베이비 시터의 소셜 미디어의 전체 역사를 분석합니다. 그리고 시터는 거절하면 경쟁력있는 일자리에 큰 불이익을 당할 것이라고 말합니다.

Predictim의 공동 창업자 인 Sal Parsa는 지난 달 캘리포니아 대학 버클리 (Buckley)의 SkyDeck 기술 창업 보육 센터에서 시작된이 회사가이 기술의 사용에 관한 윤리적 인 의문을 심각하게 생각한다고 말했다. 학부모는 "시청자의 실제 속성을 반영 할 수도 있고 반영하지 않을 수도있는 동반자"라고 평했다.

그러나 문제가 있거나 폭력적인 베이비 시터를 고용하는 위험은 아이를 안전한 상태로 유지하고자하는 부모에게 필요한 도구가된다고 그는 덧붙였다.

그는 "구글에서 폭력적인 베이비 시터를 찾는다면 지금 당장 결과가 수백 가지가 될 것"이라고 말했다. "정신 질환을 앓고 있거나 악의를 겪은 사람들이 있습니다. 우리의 목표는 우리가 그들을 막을 수있는 모든 것을하는 것입니다."

Predictim 검사는 $ 24.99부터 시작하며 소셜 미디어 계정에 대한 광범위한 액세스를 공유하기 위해 베이비 시터의 이름과 이메일 주소 및 동의가 필요합니다. 베이비 시터는 거절 할 수는 있지만 부모에게 거절 통지가 전해지고 이메일에서 베이비 시터에게 "이 요청을 완료 할 때까지 관심있는 부모는 당신을 고용 할 수 없습니다."라고 알려줍니다.

Predictim의 경영진은 언어 처리 알고리즘과 "컴퓨터 비전"으로 알려진 이미지 인식 소프트웨어를 사용하여 베이비 시터의 오프라인 생활에 대한 단서를 제공하는 베이비 시터의 Facebook, Twitter 및 Instagram 게시물을 평가합니다. 학부모는 보고서에 독점적으로 제공되며 보모에게 결과를 알릴 필요가 없습니다.

부모는 아마도 시터의 공공 사회적 미디어 계정을 직접 볼 수 있습니다. 그러나 컴퓨터에서 작성한 보고서는 수년간의 온라인 활동에 대한 심층적 인 검사를 약속합니다. 즉, 비 실용적인 작업에 대한 독창적 인 간단한 해결책입니다.

위험 등급은 명시 적 내용 및 약물 남용을 포함하여 여러 범주로 나뉩니다. 신생 기업은 또한 자사의 시스템이 공손함, 다른 사람들과 일하는 능력, "양성"과 같은 다른 성격 특성에 대해 베이비 시터를 평가할 수 있다고 광고했습니다.

회사는 수십억 달러짜리 "학부모 아웃소싱"산업을 뒤엎고 부모와 미라 블로그의 유료 스폰서 십을 통해 광고를 시작하기를 희망합니다. 이 회사의 마케팅은 숨겨진 비밀을 폭로하고 "모든 부모의 악몽"을 예방하는 능력에 중점을두고 있으며 올해 초 혐의로 기소 된 켄터키 베이비 시터의 경우를 포함 해 형사 사건을 언급하면서 8 개월 된 소녀를 심하게 다쳤습니다.

"이 베이비 시터가 부상당한 어린 소녀의 부모가 예심 과정의 일부로 Predictim을 사용할 수 있었다면, 회사 마케팅 문서에"그들은 그녀를 소중한 자녀와 함께 홀로 남겨 두지 않았을 것 "이라고 말한다.

그러나 기술 전문가들은이 시스템이 검증되지 않은 정확성에 대한 성격 스캔을 판매하는 것이 부모의 두려움을 먹고 있다는 우려를 포함 해 자체의 적기를 제기한다고 말합니다.

그들은 또한 시스템이 어떻게 훈련되고 있는지 그리고 시청자들의 소셜 미디어 사용의 흐릿한 의미를 오해하는 것이 얼마나 취약한 지에 대해서도 질문합니다. 위험도가 가장 높은 스캔을 제외한 모든 경우에 대해 부모는 의심스러운 행동을 제안하고 자신 만의 특정 구문, 링크 또는 세부 정보를 제공하지 않습니다.

한 명의 베이비 시터 스캔들이 괴롭힘을 당할 가능성이 있다고 밝혀 졌을 때, 요청한 용의하지 않은 어머니는 소프트웨어가 실제 괴롭히는 언어와 달리 오래된 영화 인용문, 노래 가사 또는 다른 문구를 발견했는지 여부를 알 수 없다고 말했다.

그러나 Predictim은 그럼에도 불구하고 전국적인 확장을 준비하고 있다고 말합니다. 수백만 명의 부모가 방문한 온라인 베이비 시터 시장 인 Sittercity의 경영진은 Predictim의 자동 등급을 현장의 현재 검사원 확인 및 백그라운드 검사로 축소 할 파일럿 프로그램을 내년 초에 시작한다고 말했습니다.

Sittercity의 제품 책임자 인 Sandra Dainora는 "간병인을 찾는 것은 많은 불확실성이 따를 수 있습니다."라고 말하면서 간병인을 온라인으로 찾는 표준적인 통화가 될 수 있다고 믿는 제품 책임자 인 Sandra Dainora는 말했습니다. "부모는 항상 최고의 솔루션, 가장 많은 연구, 최고의 사실을 모색하고 있습니다."

워싱턴 포스트