Notebookcheck Logo

El chatbot del gobierno de Nueva York aconseja a las empresas que incumplan las leyes

El chatbot oficial del gobierno de la ciudad de Nueva York parece estar confundido acerca de algunas leyes y reglamentos. (Imagen: imagen generada por la IA de DALL-E 3)
El chatbot oficial del gobierno de la ciudad de Nueva York parece estar confundido acerca de algunas leyes y reglamentos. (Imagen: imagen generada por la IA de DALL-E 3)
Un chatbot impulsado por IA y sancionado oficialmente por el gobierno de la ciudad de Nueva York ha estado aconsejando a algunos propietarios de negocios que se salten la ley o violen por completo las ordenanzas municipales. El chatbot, que se implementó para ayudar a los negocios a navegar por las leyes y normativas de la ciudad de Nueva York, ha respondido a algunas consultas con afirmaciones descaradamente ilegales, como servir a los clientes queso que ha sido parcialmente consumido por roedores.

El nuevo chatbot de IA de la ciudad de Nueva York destinado a ayudar a las empresas a navegar por el sólido entorno normativo de la ciudad parece tener algunos tornillos sueltos.

El chatbot, que se puso en marcha el pasado mes de octubre, es una herramienta sancionada por el gobierno de la ciudad para servir de punto de asesoramiento y referencia a las empresas del municipio. Aunque el bot ha sido en gran medida un recurso útil para muchos, ha habido numerosos casos en los que responde a una consulta con respuestas potencialmente engañosas o directamente ilegales.

Por ejemplo, alguien preguntó al chatbot si un restaurante podía servir queso que hubiera sido parcialmente comido por una rata. El bot respondió que sí, que "se puede seguir sirviendo el queso a los clientes si tiene mordeduras de rata", según The Star. El bot también añadió que el negocio tendría que "informar a los clientes de la situación".

Otras respuestas que hacen alarde de las normativas de la ciudad de Nueva York incluyen afirmar que los propietarios de los negocios pueden llevarse recortes de las propinas de sus trabajadores (lo cual es ilegal), ocultar los precios de los servicios funerarios (lo cual está prohibido por la Comisión Federal de Comercio) y negarse a aceptar pagos en efectivo en una tienda minorista (lo cual es obligatorio en la ciudad de Nueva York desde 2020), entre otras infracciones.

Cabe señalar que ningún servicio de chatbot de IA es preciso al 100%, e incluso los empleados humanos pueden cometer errores. Sin embargo, los fallos del chatbot (por limitados que sean) presentan un interesante enigma para los propietarios de negocios en la ciudad de Nueva York. Desde que la ciudad sancionó oficialmente el chatbot, se ha planteado la cuestión de la responsabilidad, en caso de que el propietario de un negocio siga la prescripción del bot.

Microsoft, que proporcionó el marco Azure AI para el chatbot de la ciudad de Nueva York, declaró que estaba retocando el bot para "garantizar que los resultados son precisos y se basan en la documentación oficial de la ciudad", según The Star.

El alcalde de Nueva York, Eric Adams, defendió el chatbot en una rueda de prensa a principios de esta semana, declarando:

Cualquiera que conozca la tecnología sabe que así es como se hace. Sólo aquellos que tienen miedo se sientan y dicen: "Oh, no está funcionando como queremos, ahora tenemos que huir de él todos juntos" Yo no vivo así.

Al cierre de esta edición, el chatbot seguía funcionando.

Compre un Amazon Echo Dot (5ª generación) en Amazon.

Please share our article, every link counts!
Mail Logo
> Análisis y pruebas de ordenadores portátiles y móviles teléfonos > Noticias > Archivo de noticias > Archivo de noticias 2024 04 > El chatbot del gobierno de Nueva York aconseja a las empresas que incumplan las leyes
Sam Medley, 2024-04- 6 (Update: 2024-04- 6)