{"id":52922,"date":"2024-10-25T12:43:59","date_gmt":"2024-10-25T18:43:59","guid":{"rendered":"https:\/\/enbreve.mx\/?p=52922"},"modified":"2024-10-25T12:43:59","modified_gmt":"2024-10-25T18:43:59","slug":"deepmind-de-google-desarrolla-herramienta-para-detectar-textos-generados-por-ia-con-marca-de-agua","status":"publish","type":"post","link":"https:\/\/elsolecito.mx\/index.php\/2024\/10\/25\/deepmind-de-google-desarrolla-herramienta-para-detectar-textos-generados-por-ia-con-marca-de-agua\/","title":{"rendered":"DeepMind de Google desarrolla herramienta para detectar textos generados por IA con \u00abmarca de agua\u00bb"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Ante las crecientes preocupaciones sobre la autenticidad de textos generados por inteligencia artificial (IA), <strong>Google DeepMind<\/strong> ha presentado una soluci\u00f3n pionera: <strong>SynthID-Text,<\/strong> un sistema que emplea \u00abmarcas de agua\u00bb en el contenido generado por modelos de lenguaje avanzados. Este desarrollo busca facilitar la identificaci\u00f3n de los textos creados por IA, protegiendo el ecosistema de informaci\u00f3n de la posible confusi\u00f3n sobre la autor\u00eda de los contenidos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">A diferencia de las marcas de agua en im\u00e1genes o videos, la implementaci\u00f3n de una se\u00f1al en el texto presenta desaf\u00edos, ya que cualquier cambio en las palabras puede alterar el sentido o la calidad del contenido. Sin embargo, el equipo de <strong>DeepMind<\/strong>, encabezado por los investigadores <strong>Sumanth Dathathri y Pushmeet Kohli<\/strong>, ha desarrollado un algoritmo de muestreo que introduce un patr\u00f3n sutil en la selecci\u00f3n de palabras, creando una firma detectable que no afecta el significado del texto.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Seg\u00fan los expertos, esta tecnolog\u00eda mejora significativamente la eficacia de detecci\u00f3n en comparaci\u00f3n con los m\u00e9todos actuales y tiene un impacto m\u00ednimo en la potencia de c\u00e1lculo requerida para ejecutar los modelos de lenguaje, facilitando su implementaci\u00f3n a gran escala. Los investigadores de Google consideran que esta innovaci\u00f3n es crucial, ya que los modelos de lenguaje han alcanzado una calidad tal que los textos generados suelen ser indistinguibles de los escritos por humanos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Para <strong>Pablo Haya<\/strong>, del Laboratorio de Ling\u00fc\u00edstica Inform\u00e1tica de la <strong>Universidad Aut\u00f3noma de Madrid,<\/strong> el desarrollo de <strong>SynthID-Text<\/strong> representa \u201cuna soluci\u00f3n t\u00e9cnicamente robusta\u201d que sigue patrones estad\u00edsticos rastreables sin comprometer la calidad del contenido. No obstante, Haya advierte que estas marcas de agua podr\u00edan ser vulnerables a manipulaciones, como la parafraseo o la edici\u00f3n del texto, lo cual reduce su eficacia en algunos casos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La tecnolog\u00eda de marcas de agua responde a las demandas de transparencia en el uso de IA, como lo establece el reglamento europeo, que exige que los proveedores de IA identifiquen el contenido generado por estas tecnolog\u00edas cuando representan ciertos riesgos. Sin embargo, a pesar de su avance, la adopci\u00f3n generalizada de esta soluci\u00f3n enfrenta desaf\u00edos, especialmente en torno a la durabilidad y resistencia de la marca en contextos donde el texto puede ser alterado.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Con <strong>SynthID-Text, Google DeepMind<\/strong> da un paso importante hacia una regulaci\u00f3n que promueve el uso \u00e9tico y transparente de la inteligencia artificial en la producci\u00f3n de contenido, beneficiando tanto a los creadores de IA como a los usuarios y consumidores de informaci\u00f3n.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El nuevo sistema, llamado SynthID-Text, inserta patrones rastreables en textos de IA para garantizar la transparencia y evitar el uso indebido de contenido<\/p>\n","protected":false},"author":2,"featured_media":52928,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[107,358,359,360],"class_list":["post-52922","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-mundo","tag-google","tag-google-deepmind","tag-ia","tag-synthid-text"],"_links":{"self":[{"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/posts\/52922","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/comments?post=52922"}],"version-history":[{"count":0,"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/posts\/52922\/revisions"}],"wp:attachment":[{"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/media?parent=52922"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/categories?post=52922"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elsolecito.mx\/index.php\/wp-json\/wp\/v2\/tags?post=52922"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}