Advertencia: mysqli_query (): (HY000 / 1030): se obtuvo el error 28 del motor de almacenamiento en /www/wwwroot/proguideah.com/wp-includes/clase-wpdb.php 2431
OpenAI anunció recientemente el lanzamiento de un importante programa de subvenciones de 10 millones de dólares, conocido como Superalignment Fast Grants. Esta ambiciosa iniciativa está diseñada para apoyar y estimular la investigación técnica centrada en la alineación y seguridad de sistemas de IA sobrehumanos. Esta importante iniciativa OpenAI destaca la creciente preocupación e interés en el desarrollo y control de sistemas de IA sobrehumanos, y sus riesgos y beneficios potenciales.
“ Se destinarán 10 millones de dólares en subvenciones para apoyar la investigación técnica sobre la alineación de la IA general. Necesitaremos avances significativos para dirigir y controlar sistemas de IA mucho más inteligentes que nosotros. Este es uno de los problemas técnicos sin resolver más importantes de nuestro tiempo. Pero creemos que es un problema de aprendizaje automático que se puede solucionar. Los nuevos investigadores pueden hacer contribuciones enormes ”, explica OpenAI. Las solicitudes deben presentarse antes del 18 de diciembre de 2024.
Los sistemas de IA sobrehumanos, como su nombre indica, son IA que superan a la inteligencia humana en la mayoría de las tareas de valor económico. OpenAI cree que la llegada de la superinteligencia podría ser inminente, potencialmente dentro de la próxima década. Si bien este avance podría traer enormes beneficios, desde avances en la atención médica hasta la solución de problemas globales complejos, también conlleva riesgos importantes. El desafío es garantizar que estos sistemas de IA sobrehumanos, y quizás los robots humanoides recientemente presentados, estén alineados con los valores e intereses humanos y puedan ser controlados y confiables por los humanos, una cuestión que ha sido el foco de atención de la comunidad de IA. .
Sistemas de IA sobrehumanos
Las técnicas actuales de alineación de la IA, como el aprendizaje reforzado a partir de la retroalimentación humana (RLHF), han sido fundamentales en el entrenamiento de los sistemas de IA. Sin embargo, estos métodos pueden no ser suficientes para futuros sistemas de IA sobrehumanos. Es probable que estos sistemas avanzados de IA exhiban comportamientos complejos y creativos que el RLHF tal vez no pueda explotar o controlar por completo. A medida que los sistemas de IA se vuelven más inteligentes y autónomos, la tarea de alinearlos con los valores humanos y garantizar su seguridad se vuelve cada vez más difícil.
Al reconocer la insuficiencia de las técnicas de alineación actuales y la urgente necesidad de métodos avanzados, OpenAI está lanzando el proyecto Superalignment. Este proyecto tiene como objetivo reunir a los mejores investigadores e ingenieros para abordar el desafío de la alineación y la seguridad de la IA sobrehumana. La organización cree que este es un problema que tiene solución y ve muchos enfoques y oportunidades prometedores para que la comunidad de investigación del aprendizaje automático pueda lograr avances significativos.
Subvenciones rápidas para la superalineación
Para apoyar aún más los esfuerzos del Proyecto Superalignment, OpenAI está presentando el programa Superalignment Fast Grants de 10 millones de dólares en asociación con Eric Schmidt, ex director ejecutivo de Google. Las subvenciones, que oscilarán entre 100 y 000 millones de dólares, estarán disponibles para laboratorios universitarios, organizaciones sin fines de lucro e investigadores individuales. Además, se ofrecerá una beca de superalineación OpenAI de un año de duración de 2 150 dólares a estudiantes de posgrado, con un estipendio de 000 75 dólares y 000 75 dólares en financiación computacional y de investigación.
El programa de becas y subvenciones rápidas Superalignment están diseñados para atraer nuevas personas al campo y fomentar una gama más amplia de perspectivas e ideas. Es importante destacar que no se requiere experiencia previa en alineación para solicitar estas subvenciones, lo que allana el camino para enfoques nuevos e innovadores. El proceso de solicitud es simple, con un tiempo de respuesta de cuatro semanas después del cierre de las solicitudes, lo que garantiza una respuesta rápida para los solicitantes.
El lanzamiento de este importante programa de subvenciones por parte de OpenAI representa un avance significativo en el campo de la IA. Destaca la urgencia y la importancia de alinear los sistemas de IA sobrehumanos con los valores humanos y garantizar su seguridad. Con el Proyecto Superalignment y el programa Fast Grants, OpenAI no solo aborda este desafío, sino que también fomenta una comunidad de investigación inclusiva y diversa que puede contribuir a esta tarea compleja y crucial. Esta iniciativa demuestra el compromiso de OpenAI de garantizar que la IA beneficie a toda la humanidad.
