Google 어시스턴트는 이제 욕설 명령에 대해 불평합니다.

O 구글 어시스턴트 그것은 우리 일상 생활에 가장 많이 존재하는 인공 지능 중 하나이지만, 이 모든 높은 사용은 또한 악의적인 명령을 열 수 있습니다.

이를 염두에 두고 구글 는 개인 비서의 스마트한 반응을 특징으로 하는 새로운 업데이트를 시작합니다. 이러한 잘못된 행동은 인공 지능이나 실생활에서 사용해서는 안 된다는 교육 및 주로 신호를 보내는 데 중점을 둡니다.

참신함은 업데이트와 유사합니다. BIA, 할 브라 데스 코, 여성 혐오 공격 및 기타 공격에 대응하기 시작했습니다. 지금 바로 모든 세부 정보를 확인하세요.

2020년부터 업데이트 준비 중

#이라는 이름으로나한테 그런 식으로 말하지 마또는 구글 보고서를 받고 새로운 답변을 준비하기 시작했습니다. 내가 할 수 있다면 나는 얼굴을 붉힐 것이다 da UNESCO 2019년에 출시되었으며 여성 억양이 있는 목소리 사용이 성 편견을 영속화하는 데 도움이 되고 있음을 알렸습니다. 

아르피타 쿠마르, 무엇인가요 Google Assistant Personality팀의 선임 콘텐츠 전략가, 오늘(03) 발표된 아이디어로 작업을 시작했지만 지속적인 업데이트라고 할 수 있습니다. 매일 새로운 용어가 범죄로 간주되고 더 많이 사용되기 때문입니다.

의 새로운 응답 발표 이벤트 중 구글 어시스턴트, 아르 피타 모든 작업은 여전히 ​​수작업으로 이루어지지만 시간이 지남에 따라 새로운 용어와 적절한 응답을 등록하는 알고리즘 개발이 수행될 수 있다고 지적했습니다.

모든 사용자에게 공개되기 전에 소수의 대중을 대상으로 소규모 테스트를 수행했으며 놀랍게도 개인 비서에 대한 피드백이 6% 증가했습니다. 분석에 참여한 사람들은 예상하지 못한 답변을 듣고 사과하거나 왜 그런 행동을 하면 안 되는지 의문을 제기하기 시작했습니다.

악의적인 명령은 어떻게 식별되었습니까?

OG구글 어시스턴트 95개 국가에서 사용할 수 있으며 29개 언어로 명령을 보내고 이해할 수 있으므로 개발자 회사는 피할 수 있는 많은 명령에 액세스할 수 있습니다.

아르 피타 검토가 백그라운드에서 수행될 수 있도록 사용자가 말한 내용을 필터링하는 것으로 식별 프로세스가 시작되었다고 공유했습니다.

새로운 응답의 생성은 곧 이루어졌습니다. 여성이 만든 책, 기사 및 기타 콘텐츠는 전 세계적으로 여성으로 간주되는 억양을 가진 Google 개인 비서가 더 많은 공격을 받았기 때문에 답변 작성의 기반으로 사용되었습니다.

이것은 주황색 목소리가 구글 어시스턴트 (남성 억양으로) 공격당하지 않았습니다. 사용자들은 "실존 인물이 아니다"라는 구실로 동성애 혐오적인 어조로 명령을 내리는 등 등록된 범죄 XNUMX건 중 XNUMX건을 기록하고 있다. 오렌지 보이스는 지난 XNUMX년 동안 출시됐으며 이미 실생활에서 쉽게 재현할 수 있는 공격을 받고 있다.

새로운 답변은 무엇입니까?

공격적으로 간주되는 명령이 시스템에서 식별되면 모든 것을 유머로 받아들이거나 인터넷 검색으로 안내하는 대신 음성으로 특별한 응답을 보냅니다. 그런 식으로:

말하는 것 외에도, 구글 어시스턴트 동일한 행동이 "실생활"에 적용되지 않도록 사용자를 교육할 것입니다. 회사는 접근 방식이 부적절한 사용자를 차단하지는 않지만 가까운 사람들이 동일한 공격을 받지 않도록 사고 방식을 바꾸려고 노력할 것입니다. 다른 예를 확인하십시오.

브라질의 Google 어시스턴트

브라질은 가장 많이 사용하는 국가 중 하나입니다. 구글 어시스턴트 그리고 세계 순위에서 우리는 가장 활동적인 사용자가 있는 국가 목록에서 세 번째 위치에 있습니다. COVID-19 전염병이 도래하면서 사용량이 증가했고 회사는 브라질 사람들이 뉴스를 가장 먼저 받는 사람 중 하나가 될 것이라고 결정했습니다.

포르투갈어는 여러 변형이 있는 언어이므로 새로운 답변을 사용할 수 있도록 국제 팀이 브라질 전문가와 협력했습니다. 에 따르면 마이아 마우, 마케팅 책임자 구글 어시스턴트 라틴 아메리카의 경우 욕설로 간주되어 특별 대응을 받아야 하는 용어 200개가 삽입되었습니다.

여전히 브라질 데이터에서는 구글 어시스턴트 가학적이고 15%는 성희롱까지 포함된 여성혐오적 용어를 사용합니다. 매일 여성들은 다양한 상황에서 고통을 겪기 때문에 구글는 이러한 변화를 통해 사용자의 생각을 바꾸고자 합니다.

숫자로 표현하자면, 빨간 목소리에 대한 공격의 22%는 약간의 여성 혐오적인 말을 포함하고 있으며 주황색 목소리에 대한 댓글의 13%는 외모에 관한 것입니다(이 중 2%는 여성 혐오와 관련됨).

개인 비서가 존중을 요청할 때 "제발" 사용을 중단했는데, 팀이 존중을 정중하게 요구해서는 안 된다는 점을 이해했기 때문입니다. "그런 식으로 나에게 말하지 마세요"라는 문구는 그러한 행동이 실생활에서 개인 비서나 사람을 향해서는 안된다는 것을 교육하고 나타내는 데 더 이상적입니다.

새로운 답변은 오늘(03)부터 모든 사용자가 사용할 수 있으며 새로운 욕설 명령이 Google 어시스턴트에 더 자주 들리기 시작하면 업데이트가 계속될 것입니다. 업데이트에 대해 어떻게 생각하셨나요? 알려주세요 논평!

너무보세요

2022년 선거를 위한 Google 검색의 새로운 기능을 확인하세요..

출처 : 구글