Meta는 WhatsApp에서 실시간으로 이미지를 생성할 수 있는 AI 모델인 Llama 3를 출시했습니다.
오늘(18/4) 메타 차세대 Llama의 첫 두 모델을 발표했습니다. 메타 라마 3, 포괄적으로 사용할 준비가 되었습니다. 이 새 버전에는 매개변수와 함께 사전 훈련되고 미세 조정된 언어 모델이 포함되어 있습니다. 8B e 70B, 다양한 요구를 충족시킬 수 있습니다. 오픈소스 커뮤니티를 지원하는 전통에 따라 Meta는 라마 3 지역 사회를 위해. 이는 또한 메타 AI회사의 소셜 네트워크에 존재하는 인공 지능도 실시간으로 이미지를 생성하는 기능을 포함하여 개선될 예정입니다. WhatsApp. 더보기!
라마 3를 만나보세요
과 라마 3 회사는 현재 사용 가능한 최고의 독점 언어 모델과 경쟁할 수 있는 개방형 모델을 개발할 계획입니다. GPT-4. Meta에 따르면 Llama 3의 전반적인 유용성을 개선하기 위해 개발자 피드백이 우선적으로 고려되었습니다.그랜드 언어 모델(LLM)의 책임감 있는 사용 및 구현에 대한 리더십에 대한 약속을 유지합니다.".
의 원칙에 따라 코디고 아베르토, 커뮤니티가 이러한 모델의 개발에 실시간으로 액세스하고 기여할 수 있도록 조기 및 빈번한 릴리스 접근 방식이 채택되었습니다. 오늘 소개된 텍스트 기반 템플릿은 Llama 3 시리즈의 첫 번째 템플릿입니다. 미래에 대한 비전에는 Llama 3을 확장하여 다국어 및 다중 모드 지원을 제공하고 컨텍스트 기능을 향상시키며 모든 주요 측면에서 지속적으로 성능을 향상시키는 것이 포함됩니다. LLM, 추론 및 코딩과 같은.
디자인 접근 방식에 맞춰 라마 3, Meta는 변환기 아키텍처를 선택했습니다. 디코더 전용, 이는 기본 선택입니다. Llama 3은 확장된 어휘로 토큰화를 사용합니다. 128개의 토큰, 결과적으로 보다 효율적인 언어 코딩이 가능하고 결과적으로 모델 성능이 향상됩니다. Llama 3 모델의 추론 효율성을 최적화하기 위해 회사는 클러스터형 쿼리 주의 기술(GQA) 8B와 70B의 두 가지 크기로 제공됩니다. 훈련 중에 사용되는 시퀀스의 길이는 8.192개 토큰이며, self-attention이 문서 경계 내에 유지되도록 마스크가 적용됩니다.
최고의 언어 모델을 훈련하려면 대규모의 고품질 훈련 데이터 세트를 보유하는 것이 필수적입니다. 우리의 설계 원칙에 따라 우리는 Llama 3의 사전 훈련 데이터에 상당한 투자를 했습니다. 이 모델은 다음과 같이 사전 훈련되었습니다. 15조 개 이상의 토큰, 모두 공개적으로 사용 가능한 소스에서 가져온 것입니다. 우리의 훈련 데이터 세트는 Llama 2에 사용된 것보다 XNUMX배 더 크고 XNUMX배 더 많은 코드를 포함합니다.
향후 다국어 사용 사례에 대비하여 Llama 5 사전 학습 데이터 세트의 3% 이상이 영어 이외의 언어로 된 고품질 데이터로 구성되어 있으며, 30개 이상의 언어를 지원. 그러나 Meta는 이러한 언어에서도 영어에서 달성한 것과 동일한 수준의 성능을 달성할 것으로 기대하지 않습니다.
Llama 3가 최고 품질의 데이터로 훈련되도록 보장하기 위해 일련의 데이터 필터링 파이프라인이 개발되었습니다. 이러한 파이프라인에는 다음이 포함됩니다. 휴리스틱 필터, 부적절한 콘텐츠에 대한 필터, 의미론적 중복 제거 기술 및 텍스트 분류기를 통해 데이터 품질을 평가합니다. 이전 버전의 Llama는 다음에서 효과적입니다. 고품질 데이터 식별그런 다음 Llama 2를 사용하여 Llama 3에 제공되는 텍스트 품질 분류기에 대한 교육 데이터를 생성했습니다.
또한 Meta는 다양한 소스의 데이터를 최종 사전 훈련 데이터세트에 병합하는 가장 좋은 방법을 결정하기 위해 실험을 사용하기도 했습니다. 이러한 실험을 통해 우리는 Llama 3가 다음을 포함한 다양한 사용 사례에서 잘 작동하도록 보장하는 데이터 조합을 선택할 수 있었습니다. 퀴즈 질문, 줄기 (과학, 기술, 공학 및 수학), 법전 편찬, 역사적 지식, 다른 사람 사이에서.
라마 2와의 비교
새로운 모델 라마 3, 8B 및 70B의 매개변수를 사용하면 라마 2, 이러한 규모에서 LLM 모델에 대한 새로운 표준을 설정합니다. Meta는 사전 훈련 및 사후 훈련의 개선으로 인해 사전 훈련된 모델과 미세 조정된 명령 모델이 현재 8B 및 70B 매개변수 규모에서 확실한 선두주자라고 주장합니다.
훈련 후 절차의 최적화로 인해 잘못된 거부율 감소, 정렬을 개선하고 모델 응답의 다양성을 높이는 것 외에도. 추론, 코드 생성 및 향후 지침과 같은 기능에서도 상당한 개선이 관찰되어 Llama 3의 적응성과 타겟팅이 더욱 향상되었습니다.
Llama 3를 개발하는 동안 표준 벤치마크와 실제 시나리오 모두에서 모델 성능에 대한 분석이 이루어졌습니다. 실제 응용 프로그램에 대한 효과적인 최적화를 보장하기 위해 새로운 고품질 인간 평가 제품군이 만들어졌습니다. 이 세트는 다음을 포함하여 1.800가지 주요 사용 사례를 다루는 12개의 프롬프트로 구성됩니다. 조언 구하기, 브레인스토밍, 분류, 선택형 질문에 답하기, 코딩, 문예창작, 추출, 캐릭터/페르소나 사칭, 개방형 질문에 답하기, 추론, 재작성 e 개요.
피하기 위해 과적합 (또는 과적 합, 가장 일반적으로 사용되는 용어) 이 평가 세트에 대한 모델의 우발적이므로 Meta의 자체 모델링 팀조차도 이에 액세스할 수 없습니다. 제시된 그래프는 Llama 3의 성능을 모델과 비교하여 이러한 범주 및 프롬프트에서 인간 평가의 집계 결과를 보여줍니다. 클로드 소네트, 미스트랄 미디엄 e GPT-3.5.
Llama 3가 Meta AI를 개선하는 방법
Meta Llama 3의 발전으로 인해 회사는 Meta AI의 국제적 확장을 발표합니다. 이는 해당 리소스가 미국에서만 독점적이라는 점을 기억합니다. 기존 모델의 강력한 경쟁자로 등장한 Meta AI는 이제 전 세계 더 많은 사람들이 사용할 수 있게 되었습니다. Facebook, 인스타그램, WhatsApp e 전령 다양한 작업을 수행하고 콘텐츠를 생성하며 실시간으로 정보에 액세스할 수 있는 이 무료 기술을 즐겨보세요.
Meta AI는 작년 Connect에서 처음 공개되었으며 현재 다음과 같은 국가의 사용자가 사용하고 있습니다. 호주, 캐나다, 가나, 자메이카, 말라위, 뉴질랜드, 나이지리아, 파키스탄, 싱가포르, 남아프리카, 우간다, 잠비아 e 짐바브웨 혜택도 누릴 수 있습니다. Meta AI 확장의 일환으로 이제 사람들은 Meta AI에 액세스할 수도 있습니다. Meta.ai, 웹 버전에서는.
친구들과 밤에 외출할 계획이신가요? 메타 AI에게 전망이 훌륭하고 채식주의 옵션까지 갖춘 레스토랑을 추천해 달라고 요청하세요. 주말에 여행을 계획하고 있나요? Meta AI에게 토요일 밤의 쇼를 찾아달라고 요청하세요. 시험을 준비하고 있나요? Meta AI에게 유전적 특성이 어떻게 작용하는지 설명해달라고 요청하세요. 첫 아파트로 이사하시나요? Meta AI에게 원하는 미적 아름다움을 "상상"해 달라고 요청하면 도우미가 가구에 대한 영감을 주는 사진을 생성해 줄 것입니다.
AI가 어떻게 도움을 줄 수 있는지 설명하는 메타
O 메타 AI 또한 Facebook, Instagram, WhatsApp 및 Messenger의 검색 기능에서도 직접 사용할 수 있습니다. 이것은 당신이 할 수 있다는 것을 의미합니다 인터넷에서 실시간으로 정보에 접근 애플리케이션 간에 전환할 필요 없이. 예를 들어, 메신저 그룹 채팅에서 친구들과 여행을 계획하고 있다고 가정해 보세요. 메신저 검색을 사용하면 새로운 Llama 3로 구동되는 Meta AI에게 출발지에서 목적지까지의 항공편을 찾고 방문하기 가장 느린 주말을 찾아달라고 요청할 수 있습니다. 물론, 메신저 앱을 종료하지 않고도 이 모든 작업이 가능합니다.
또한 사람들은 Facebook 피드를 탐색하는 동안 Meta AI에 액세스할 수 있게 됩니다. 관심을 끄는 게시물을 발견하면 해당 게시물을 통해 일반 구글 검색과 마찬가지로 페이스북 게시물 내에서만 Meta AI에 직접 더 많은 정보를 요청할 수 있습니다.
Meta는 사람들이 Meta AI의 Imagine 기능을 사용하여 텍스트에서 실시간 이미지를 생성할 수 있도록 이미징 프로세스를 가속화하고 있습니다. 이 기능의 출시는 오늘 베타 버전으로 시작되었으며, WhatsApp 및 미국의 Meta AI 웹 환경에서 사용할 수 있습니다. 입력을 시작하면 사람들은 즉시 이미지가 나타나는 것을 보게 됩니다. 이 이미지는 귀하가 입력하는 몇 글자마다 발전하므로 Meta AI가 귀하의 아이디어를 실시간으로 구현하는 모습을 볼 수 있습니다.
회사에 따르면 이렇게 생성된 이미지는 선명도와 품질이 향상되었습니다., 이미지에 텍스트를 포함하는 더 나은 기능을 제공합니다. 또한 이미지 개선을 위한 제안을 제공하므로 초기 시작점부터 계속해서 개선할 수 있습니다. 이미지를 찾으면 Meta AI에게 애니메이션을 적용하거나 새로운 형식으로 적용하거나 이미지로 변환하도록 요청하기만 하면 됩니다. GIF 친구들과 공유하기 위해.
이러한 업데이트는 Facebook, Instagram, WhatsApp, Messenger 및 웹의 Meta AI에만 적용되지만 Meta AI는 미국에서도 스마트 안경으로 사용할 수 있다는 점을 기억하는 것이 중요합니다. 레이밴 메타, 그리고 곧 메타 퀘스트 — 메타 가상 현실 장치.
오픈소스 및 보안을 통한 투명성
생성 AI 기술의 잠재력은 Meta 제품과 더 넓은 생태계의 사용자 경험을 진정으로 향상시킬 수 있습니다. 그럼에도 불구하고 해결해야 할 또 다른 사항은 이것이 적절한 방식으로 수행되도록 보장하는 것입니다. 책임이있는 e 확실히. 따라서 회사는 AI 개발 및 구현의 모든 단계에서 위험을 평가하고 완화하기 위한 조치를 취하고 있습니다. 여기에는 Llama 기본 모델 설계 및 출시 프로세스에 보호 장치를 통합하는 것뿐만 아니라 개발자 생태계를 지원하여 책임 있는 관행을 장려하는 것도 포함됩니다.
따라서 Llama 3에서는 다음을 통합하는 체계적인 접근 방식이 채택되었습니다. 개발의 모든 단계에서 보호. 이는 개발자가 책임감 있게 모델을 구현할 수 있는 도구를 제공하는 것 외에도 훈련 및 조정 프로세스에 특별한 주의가 적용되었음을 의미합니다.
이러한 접근 방식은 책임 있는 AI에 대한 노력을 강화할 뿐만 아니라 개방형 혁신의 비전을 반영하여 개발자가 사용자에게 이익이 되도록 제품을 안전하게 맞춤화할 수 있도록 지원합니다. 메타에도 책임 있는 사용 가이드, 개발자에게 제품 구축에 대한 지침을 제공하는 중요한 소스입니다.
Llama 2를 출시할 때 설명했듯이 이러한 조치를 의도적으로 설계하는 것이 중요합니다. 일부는 모델 제공자에 의해서만 효과적으로 구현될 수 있고 다른 일부는 개발자가 특정 프로젝트의 일부로 구현할 때만 효과적으로 작동하기 때문입니다. 애플리케이션.
회사를 강화한다
작년에 Meta AI를 출시한 이후 브랜드는 여러 영역에서 지속적으로 경험을 개선해 왔습니다.
- 정치적, 사회적 문제에 대한 Meta AI의 대응은 이러한 주제에 대한 구체적인 지침을 통합하여 개선되었습니다. 특정 질문을 할 때 사용자의 의도를 존중하면서 주제에 대해 다양한 관련 관점을 제공하는 것이 목표입니다.
- 행동을 안내하는 보상 모델을 사용하여 더욱 유용하게 만들기 위한 구체적인 지침과 응답을 포함합니다.
- Meta AI의 성능은 벤치마크와 인간 전문가의 테스트를 통해 평가되며, 진행 중인 프로세스에서 식별된 문제를 해결합니다.
- 필터 및 분류자를 포함한 요청 및 응답 수준 보호 장치를 통해 상호 작용이 지침에 부합하고 보안이 유지되도록 합니다.
- 사용자가 자신의 경험을 공유할 수 있는 피드백 도구를 통해 Meta AI의 성능을 지속적으로 개선할 수 있습니다.
그리고 당신은 그 소식에 대해 어떻게 생각했나요? 우리는 브라질에 빨리 도착하고 싶어요, 그렇죠? 당신이 우리에게서 무엇을 발견했는지 알려주세요 논평!
참조 :
Google 포토 무료 무료 AI 이미지 편집 모든 사용자에게.
검토자 글라우콘 바이탈 18년 4월 24일.
쇼메텍에 대해 자세히 알아보세요.
최신 뉴스를 이메일로 받아보시려면 등록하세요.
