Ray Kurzweil, renomado futurologista e ex-diretor de engenharia da Google, emitiu uma resposta à carta que solicitava a interrupção da pesquisa em inteligência artificial, destacando argumentos contra a viabilidade da proposta e destacando que isso impediria a humanidade de obter avanços e inovações médicas que são de grande benefício para as pessoas.
Documento Internacional para Pausar o Progresso da Inteligência Artificial.
Um grupo de cientistas e personalidades de renome internacional assinou uma carta pública, divulgada no FutureOfLife.org, solicitando uma interrupção total no avanço da inteligência artificial além do nível do GPT-4, a versão mais recente desenvolvida pela OpenAI.
Além de interromper o progresso da inteligência artificial, eles também solicitaram a criação de protocolos de segurança supervisionados por especialistas independentes externos.
Alguns dos argumentos apresentados pelos autores da carta aberta incluem:
- A inteligência artificial apresenta um perigo significativo.
- O avanço da Inteligência Artificial deve ser continuado somente após a identificação e a explicação das vantagens das aplicações da tecnologia.
- A inteligência artificial só deve avançar se os milhares de signatários da carta estiverem seguros de que os desafios da IA podem ser controlados.
- Os criadores de inteligência artificial são convocados para colaborar com os responsáveis políticos a fim de criar estruturas de governança da inteligência artificial que incluam entidades reguladoras.
- O avanço de tecnologias de identificação única para reconhecer o material gerado por inteligência artificial e regular sua disseminação.
- Um método para determinar quem é responsável pelos danos causados pela inteligência artificial.
- Estabelecimento de organizações para lidar com as perturbações provocadas pela tecnologia de inteligência artificial.
O texto sugere que a tecnologia de inteligência artificial (IA) é controlada por um pequeno grupo de organizações, mas na realidade, a IA não está limitada apenas a governos, institutos de pesquisa e empresas.
A inteligência artificial atualmente é uma tecnologia aberta e descentralizada, criada por inúmeros colaboradores em todo o mundo.
Ray Kurzweil é conhecido por suas previsões futuristas, é autor de livros renomados e já ocupou o cargo de diretor de engenharia no Google.
Ray Kurzweil tem desenvolvido programas e equipamentos voltados para a inteligência artificial desde os anos 60, é autor de diversos livros populares sobre o assunto e é conhecido por acertar em suas previsões futurísticas.
Das 147 previsões feitas sobre a vida em 2009, somente três delas estavam incorretas, o que representa apenas 2% do total.
Durante os anos 1990, uma das previsões feitas foi a de que vários meios físicos, como os livros, perderiam popularidade à medida que fossem digitalizados. Na mesma década, quando os computadores eram volumosos, foi previsto que se tornariam pequenos o bastante para serem utilizados até o ano de 2009, o que se confirmou posteriormente (How My Predictions Are Faring – 2010 PDF).
As últimas previsões de Ray Kurzweil estão focadas nos benefícios que a inteligência artificial trará, especialmente no campo da saúde e da ciência.
Kurzweil também tem sua atenção voltada para a questão ética da inteligência artificial.
Em 2017, ele foi um dos responsáveis (ao lado do CEO da OpenAI, Sam Altman) pela elaboração de uma carta aberta chamada Princípios de IA Asilomar, a qual foi divulgada no site do Futuro da Vida. Esses princípios visam orientar o desenvolvimento seguro e ético das tecnologias de Inteligência Artificial.
Dentre os princípios que ele contribuiu para elaborar:
- A meta da pesquisa em inteligência artificial deve ser desenvolver inteligência benéfica, em vez de inteligência sem direção específica.
- Os investimentos em inteligência artificial devem ser seguidos por apoio financeiro à investigação sobre como garantir que seu uso seja positivo.
- É importante promover uma troca positiva e produtiva entre os pesquisadores de Inteligência Artificial e os responsáveis pelas tomadas de decisão.
- A inteligência artificial avançada tem o potencial de causar uma transformação significativa na evolução da vida no planeta e requer uma abordagem cuidadosa e empática em seu planejamento e gestão.
- A superinteligência deve ser cultivada com base em princípios éticos universais, visando beneficiar a humanidade como um todo, em vez de um grupo específico ou organização.
A reação de Kurzweil à petição por uma interrupção no avanço da inteligência artificial foi influenciada por sua experiência em tecnologia inovadora, destacando os benefícios positivos que essa tecnologia pode trazer para as pessoas e o meio ambiente.
A sua resposta abordou três aspectos principais.
- O convite para fazer uma pausa não é suficientemente específico para ser útil na prática.
- Todas as nações precisam estar de acordo com a suspensão, caso contrário os objetivos serão frustrados desde o início.
- Interromper o progresso impede a possibilidade de descobrir tratamentos para enfermidades.
Muito vago para ser útil na prática.
O primeiro argumento em relação à carta é que é bastante genérico, pois está gerando uma interrupção na inteligência artificial que é mais avançada do que o GPT-4, sugerindo que o GPT-4 é o único modelo de IA existente.
Kurzweil fez uma escrita.
No contexto da carta aberta sobre a pesquisa que questiona a AI mais avançada do que o GPT-4, esse critério é demasiadamente impreciso para ser aplicável na prática.
As nações deixarão a pausa.
Seu argumento seguinte ressalta que as exigências mencionadas na carta dependem da colaboração voluntária de todos os pesquisadores ao redor do globo para serem eficazes.
Qualquer país que se negar a assinar terá a vantagem, o que provavelmente será o resultado.
Ele está escrevendo.
A proposta apresenta um desafio significativo de coordenação: indivíduos que apoiam uma interrupção podem acabar ficando muito atrás de empresas ou países que se opõem.
Este ponto enfatiza que a realização de uma pausa total não é possível, uma vez que as nações não abrem mão de uma vantagem e a inteligência artificial está disponível de forma democrática e de código aberto, acessível aos indivíduos em escala global.
A inteligência artificial traz vantagens importantes para a inteligência artificial.
Alguns editoriais questionam a utilidade da inteligência artificial para a sociedade, alegando que os benefícios da melhoria da produtividade dos trabalhadores não são suficientes para compensar os riscos percebidos.
Kurzweil argumenta que a carta aberta que pede uma pausa no avanço da inteligência artificial não considera os benefícios que a IA pode proporcionar.
Ele dá uma explicação.
Há grandes vantagens em promover a inteligência artificial em setores essenciais como medicina e saúde, educação, busca de fontes de energia renovável para substituir combustíveis fósseis, entre outras áreas.
É preciso ter mais sutileza para aproveitar ao máximo os benefícios profundos da inteligência artificial na área da saúde e na produtividade, ao mesmo tempo em que se evitam os perigos reais.
Riscos, Apreensão em Relação a Estranhos e Contribuições para a Sociedade
Kurzweil destaca os benefícios que a inteligência artificial pode trazer para a sociedade e ressalta a impossibilidade de interromper completamente o avanço dessa tecnologia.
Sua descrição da inteligência artificial destaca as vantagens significativas para a humanidade que estão intrínsecas à IA.
Será que a introdução do chatbot da OpenAI como inteligência artificial diminui o valor da IA e obscurece seus benefícios para a sociedade, ao mesmo tempo em que causa receio em pessoas que não compreendem o funcionamento da IA generativa?
Imagem em destaque por Shutterstock/Iurii Motov
