Problema De Definição De Metas

963.4Pergunta: Existe algo chamado problema de definição de metas. Aplica-se tanto aos humanos como à inteligência artificial. Quando uma pessoa estabelece uma meta para si mesma ela precisa avaliar se ela é boa ou ruim num sentido global e se isso a aproxima de algo ou a afasta disso.

Esta avaliação é feita tanto a nível genético como com base em princípios morais adquiridos da sociedade e das leis do Estado.

Quando a inteligência artificial está sendo treinada, surge um problema em como avaliar suas ações, pois se um único fator não for levado em consideração, a inteligência artificial pode ignorá-lo. Suponhamos que a tarefa seja plantar um campo de morangos sem prejudicar nenhum ser humano. Se o fator de não prejudicar os seres humanos for ignorado e não incluído no algoritmo geral, isso causará danos significativos. Este é um sistema intrincado e complexo que é impossível projetar perfeitamente desde o início.

Como podemos determinar o que é bom e o que é ruim? Eu entendo que este é um problema de ordem superior. Mas ainda assim, com base no que pode ser feito ou, pelo menos, chegar mais perto da conclusão de que é bom e o que não é?

Resposta: Primeiro, se algo é feito para o benefício das pessoas – não apenas para um indivíduo ou grupo, mas para o benefício de todas as pessoas – então é considerado bom. Em segundo lugar, é considerado bom se não causar danos irreparáveis à natureza no processo. Isso é tudo, realmente.

Essas duas regras são essencialmente complexas, mas englobam muito dentro delas.

Pergunta: Isto é semelhante às definições Cabalísticas, onde definições aparentemente simples contêm a totalidade do universo ou todo o caminho da humanidade, desde o início até o objetivo final? Como você opera com essas coisas na prática?

Resposta: Somente sob a condição de uma educação adequada para todos os habitantes do planeta. Isto é, carregar a informação correta em uma pessoa ao longo da vida e trabalhar com ela até que se torne uma necessidade prática e uma realidade.

De KabTV, “Expresso de Cabalá”, 31/07/23