Q*(Q-Star): OpenAI 발견으로 비트코인이 종말을 맞이할 수 있습니다.
색인
공개적으로 존재하는 것이 입증되지는 않았지만 인공지능은 큐*, 라고도 큐스타, 기술 시장에서 많은 논의를 불러일으키고 있습니다. 해고 및 재고용 가능성이 있는 것 외에도 Sam Altman 샘 올트먼 na OpenAI, '초고급' AI가 암호화를 깨뜨렸을 수도 있다는 사실이 공개됐습니다. 이것이 무엇을 의미하는지, 그리고 앞으로 무엇을 기대할 수 있는지 이해하십시오.
샘 알트먼의 해고
이 초고도 AI의 존재는 이 AI를 만든 회사에 '내파'를 일으켰다고 알려져 있다. ChatGPT. 모든 것은 17월 XNUMX일에 시작되었습니다. Sam Altman 샘 올트먼, 당시 CEO OpenAI, XNUMX년 만에 해고됐다.
소식통에 따르면 연구원들이 회사 이사회에 보낸 편지가 이번 사건에 중요한 역할을 했다고 합니다. 알트만의 사임 그리고 인터넷에 올라온 발췌문을 보면 그가 의사소통에 있어 성실하지 않아 직무 수행 능력을 저해한다는 비난을 받았음을 알 수 있습니다. 그러나 해고는 여전히 큰 미스터리입니다.
의 이름 알트만 그는 인공지능 회사와 영원히 연결될 것입니다. 2015년에 그는 비영리 회사 설립을 도왔습니다. 하지만 이미 첫해에 다음과 같은 이름의 지원을 받아 엘론 머스k, 사업가로부터 제시카 리빙스턴 LinkedIn의 공동 창업자이자 리드 호프만, 기타 기업 중에서 미화 1억 달러를 축적했습니다.
우리는 인공지능을 노예로 삼지 않으면 인공지능이 우리를 노예로 만들 것입니다.
2016년 The New Yorker 잡지와의 인터뷰에서 Sam Altman.
직원 반응
회사 직원들은 이사회의 결정에 동의하지 않았고 700명이 넘는 사람들(거의 전체 직원)이 해고 위협을 담은 청원에 서명했습니다. 해고된 지 XNUMX일 만에 이미 마이크로소프트에 채용됐어, 그는 다시 돌아왔다 OpenAI.
해고된 후 알트만, 팀을 병합하여 AI 과학자 팀이 구성된 것으로 나타났습니다.”코드 생성"그리고"수학 세대“. 이 팀은 기존 AI 모델을 개선해 추론 능력을 향상하고, 향후 과학적인 작업을 수행하는 것을 목표로 했습니다. 이 팀은 회사의 인공지능 관련 전략적 방향을 논의하는 데 중요한 역할을 했습니다.
마이크로소프트의 제안
2019년은 우리에게도 중요한 한 해였습니다. Sam Altman 샘 올트먼: OpenAI는 영리 목적의 자회사를 설립하여 Microsoft Windows 창시자는 프로젝트 생성을 위해 1억 달러 이상을 투자했습니다. 우리는 나중에 Windows 부조종사, 빙챗, 부조종사 365 OpenAI를 우리가 매일 사용하는 서비스에 통합합니다.
Microsoft는 혁신을 시작하기 위해 OpenAI에 크게 의존하는 회사입니다. 특히 2019년에 투자한 금액을 이제서야 회수하고 있기 때문입니다. OpenAI의 CEO인 Sam Altman이 해고되었다는 사실을 알게 되자마자 회사는 빌 게이츠가 설립한 이 회사는 시간을 낭비하지 않고 첨단 AI 연구를 선도하는 위치를 제안했습니다. Brockman은 또한 이 새로운 팀의 리더 중 한 명이 될 것이며 Microsoft의 목적은 분명합니다. 인공 지능 바퀴가 회전을 멈추도록 두지 않는 것입니다.
당시 팀은 Microsoft가 대규모 언어 모델을 훈련하고 잠재적으로 NVIDIA에 대한 의존도를 줄이는 것을 목표로 하는 자체 맞춤형 AI 칩 생성을 발표한 지 일주일 후에 구성되었습니다.
회사는 심지어 자체적으로 개발했습니다. CPU 아키텍처 기반 팔, 클라우드 워크로드를 처리하도록 설계되었습니다. 두 가지 맞춤형 칩 모두 데이터 센터의 운영을 강화하기 위해 제작되었습니다. 하늘빛, 이는 널리 탐구되었습니다.
조언 교환
OpenAI 이사회에는 Sam Altma의 해고에 중요한 역할을 한 네 명의 중요한 이름이 있었습니다: Adam D'Angelo, Helen Toner, Tasha McCauley, Ilya Sutskeve. Q* 생성으로 인한 Altman의 커뮤니케이션 실패를 주장하면서 그는 더 이상 OpenAI의 CEO 자리를 맡지 않기로 결정했습니다.
Altman이 회사로 복귀하면서 이사회는 그의 해고를 권고하는 변화를 가져왔습니다. Sam이 돌아온 후에도 연구 사이트 Quora의 창립자이자 소유주인 Adam D'Angelo만이 회사에서 계속 일하고 있습니다. 거버넌스의 미래는 아직 알려지지 않았지만 이미 참여한 몇몇 이름이 있습니다. 새로운 조직은 Salesforce의 전 CEO인 Bret Taylor가 의장을 맡고 전 미국 재무부 장관인 Larry Summers가 참여하게 됩니다.
Microsoft 자체의 더 많은 이름이 인공 지능 회사의 새 이사회에 포함될 것으로 예상됩니다. Sequoia Capital, Thrive Capital, Tiger Global 등 OpenAI에 돈을 투자한 다른 회사 이름도 예상됩니다.
지금 이 순간 가장 큰 과제는 여러 분야에서 많은 문제를 겪고 있는 것이 분명한 기업을 구조조정하는 것입니다. 현재 가장 큰 규칙은 해당 주제에 관심이 있는 모든 사람에게 모든 단계를 명확히 하여 AI 윤리의 행위를 바꾸는 것입니다.
CEO의 OpenAI 복귀
22월 XNUMX일, 알트만 으로 돌아왔다 OpenAI그러나 언론은 이 모든 상황의 원인을 찾으려고 노력했습니다. 그는 트윗을 통해 자신이 찾은 회사로 돌아가 자신에게 유리한 새 이사회를 만드는 것에 대해 이야기했습니다. 뿐만 아니라, 그렉 브록만OpenAI 공동 창업자도 사임했다. 그러나 그는 여전히 직위를 밝히지 않은 채 회사로 돌아왔다.
저는 OpenAI를 사랑하며 지난 며칠 동안 제가 한 모든 일은 이 팀과 팀의 사명을 하나로 유지하는 데 도움이 되었습니다. 제가 일요일 밤에 Microsoft에 합류하기로 결정했을 때 이것이 나와 팀을 위한 최선의 길이었음이 분명했습니다. 새 보드와 Satya의 지원을 통해 저는 OpenAI로 돌아가 Microsoft와의 강력한 파트너십을 구축할 수 있기를 기대합니다.
인공지능 회사로 복귀한 샘 알트먼
Q-스타란 무엇인가요?
A Q* 방대한 계산 자원을 활용하여 수학적 문제를 해결하는 능력으로 두각을 나타냈습니다. 성능은 초등학생 수준이지만, 테스트 통과로 인해 연구자들은 AI 알고리즘의 미래 잠재력에 대해 낙관론을 갖게 됐다.
A OpenAI 직원들에게 내부 성명을 통해 프로젝트의 존재를 확인했음에도 불구하고 Q-Star 알고리즘의 존재에 대해 공개적으로 말하기를 거부합니다. 큰 문제는 인류가 지금까지 본 어떤 언어 모델보다 훨씬 발전해, 면밀히 모니터링하지 않으면 돌이킬 수 없는 피해를 입힐 수 있다는 점이다.
Q*의 존재 가능성은 다음 보고서에서 처음으로 언급되었습니다. 로이터, 23월 XNUMX일, 연구자들은 이 혁신이 어떻게 AI의 윤리, 보안 및 미래에 대한 의문을 제기하는 중추적인 순간이 되었는지에 대한 우려를 제기했습니다. OpenAI. 또한 연구원들은 편지에 언급된 정확한 보안 문제를 명시하지 않고 AI의 능력과 잠재적 위험을 강조했다고 소식통은 말했습니다.
걱정스러운 가설
편지에 표현된 우려는 AI의 능력뿐만 아니라 임박한 위험. 고도로 지능적인 기계가 야기하는 위험, 예를 들어 인류의 파괴가 자신들의 이익에 부합한다고 결정하는 경우 컴퓨터 과학자들 사이에서는 오랫동안 논의가 있어 왔습니다.
답이 하나뿐인 문제를 푸는 능력이 흥미롭습니다. 현재 ChatGPT, Bard 및 Bing Chat과 같은 인공 지능은 확률의 영역에만 있습니다. 쓰기 및 번역에는 능숙하지만 더 복잡한 주제에 대해서는 여전히 다른(그리고 종종 그렇게 주장적이지 않은) 응답을 보냅니다.
AGI 가설: 초인적 지능의 발견
AQ*는 다양한 상황에서 취할 수 있는 더 나은 조치를 찾는 데 도움이 됩니다. 주요 목표는 기계가 지능적인 전략을 갖고 더 큰 장기 수익을 얻을 수 있도록 하는 것입니다. 모델이 먼저겠죠 OpenAI의 AGI(인공일반지능).
AGI는 일반적인 능력을 갖춘 AI의 한 유형을 말합니다. 인간이 할 수 있는 모든 작업을 이해하고, 학습하고, 수행합니다.. 이 시스템의 구현은 윤리적 및 보안 문제를 제기하고 잠재적으로 회사의 다양한 직책에 영향을 미치면서 지속적으로 논의되고 있습니다. 현재까지 AGI는 아직 이해되지 않았지만, 다른 사람에게 해를 끼치지 않고 시스템을 개발하기 위해 여러 연구가 계속해서 수행되고 있습니다.
OpenAI는 AGI를 작업에서 인간을 능가하고 경제적으로 더 가치 있는 자율 시스템으로 정의하기 때문에 어떤 면에서는 이 기술이 인류에게 위험을 초래할 수 있습니다.
OpenAI가 Q-Star 초지능에 대해 질문을 받았을 때 팀은 프로젝트에 대한 새로운 세부 정보를 제공하지 않기로 결정했으며 이러한 유형의 AI가 인간에게 초래할 수 있는 위험에 대한 구체적인 정보는 공개되지 않았으며 존재 여부에 대한 공식 정보도 공개되지 않았습니다.
우리가 알고 있는 현재 언어 모델과 큐스타 연구자들은 이것이 다음과 같은 중요한 진전을 나타낼 수 있다고 믿고 있습니다. "인공 일반 지능"(AGI), 시스템이다 인텔리 전시 아 인공 다양한 업무에 있어서 인간과 동등하거나 그보다 우월한 인지 능력을 가지고 있는 사람.
AI가 주장하는 기능은 독립적으로 검증되지 않았기 때문에 AI의 진정한 영향력과 변혁적 잠재력에 대한 추측이 제기됩니다. 연구자들은 다음의 능력을 고려한다. Q* 우수한 생성 AI 개발의 중요한 개척지로서 수학적 연산을 수행하는 것입니다.
마지막 문제는 Q*의 가능한 기계 학습은 체스 게임과 같은 인간 상호 작용이 필요 없이 학습한다는 것입니다. 실수를 저지르고 승리하는 방법을 깨달음으로써 AI는 한 번의 움직임으로 인간을 능가할 수 있습니다.
Q*(Q-Star) 가설: 암호화의 종말
이 이야기의 뉴스는 우려를 낳고 있습니다. Reddit에 공유된 게시물에 따르면 큐스타 달성했을지도 모른다 암호화를 깨다, 이는 디지털 프로세스의 보안 기반에 지나지 않습니다. 고급 AI는 메시지를 생성하고 암호화할 수 있을 뿐만 아니라 고객 데이터에 빠르게 액세스할 수도 있습니다. 누가 접근권한을 갖고 있느냐에 따라 Q*, 이것은 실제 문제가 될 수 있습니다.
구체적인 내용은 다음과 같습니다. 비트 코인, 전 세계적으로 많이 사용되는 암호화폐인 경우 암호화가 중단되고 시장 가치가 XNUMX이 됩니다. 이는 가장 큰 보안 소스인 암호화 키가 더 이상 존재하지 않기 때문입니다. 우리는 이미 이것에 대해 더 많이 이야기했습니다 특별한 문제의 가상 화폐l, 이를 확인하고 암호화가 왜 그렇게 중요한지 이해하십시오. 그러나 이것에 더 많은 것이 있습니다.
현재 암호화는 WhatsApp, Instagram과 같은 소셜 네트워크, 스마트폰, 우리가 액세스하는 웹사이트, 심지어 은행 시스템까지 모든 가상 영역에 존재합니다. 만약에 Q* 이 보안 장벽을 허물면 암호화하는 데 몇 달이 걸렸던 개인 데이터에 액세스할 수 있습니다.
더 나아가, 우리는 정부 기관이 시스템에서 암호화를 사용하며, 유출이 발생하지 않도록 하려면 연결된 세계에서 이 데이터를 제거해야 한다는 점을 기억합니다. 또한 이 전체 보안 계층을 깨뜨릴 수 있는 인공 지능의 큰 위험으로 인해 많은 웹 사이트를 완전히 폐쇄해야 합니다.
시사점과 앞으로 기대할 사항
A OpenAI 이 새로운 인공 지능의 존재에 대해 언급하는 것을 피하지만, 언급된 모든 내용은 강조할 가치가 있습니다. Q* 소문 공장에 남아 있습니다. 발생할 수 있는 위험에 대해 많은 이야기가 나왔지만, 직원들에게 보낸 내부 커뮤니케이션 외에는 아직 그 존재에 대한 공식적인 확인이 없다는 점을 기억할 가치가 있습니다.
암호화 해제와 관련하여 이 정보의 출처는 다음 게시물입니다. 레딧 예, 가능한 문제에 대한 논의를 불러일으키지만 동시에 Q*에 맞서 창설될 진정한 태스크포스를 위한 많은 기반을 제공하지 않습니다. 즉, 시간이 지나면 미래에 무슨 일이 일어날지에 대한 답이 나올 것입니다. 하지만 지금 조치를 취할 수 있도록 확률에 주의를 기울일 가치가 있습니다.
초고도 AI가 실제로 존재한다면 미래 인류에게 문제를 일으킬 수 있다고 생각하시나요? 우리에게 말해주세요 논평!
Showmetech 채널에서 비디오 보기:
너무보세요
정보: 레딧 l 웨스 로스 l CBC 뉴스 l 콜드 퓨전
검토자 글라우콘 바이탈 27년 11월 23일.
쇼메텍에 대해 자세히 알아보세요.
최신 뉴스를 이메일로 받아보시려면 등록하세요.
