L1ght busca proteger a los internautas de comportamientos tóxicos y depredadores

prevenir el ciberacoso discurso de odio

La ciberseguridad se ha considerado una necesidad para todos los usuarios de computadoras, especialmente hoy en día, cuando las violaciones de datos y los ataques de malware se han vuelto rampantes.

Sin embargo, uno de los aspectos más pasados ​​por alto de la ciberseguridad es la prevención de otras formas de ciberdelincuencia, como la difusión de contenido dañino y el comportamiento depredador.

La mayoría de los debates actuales sobre ciberseguridad giran en torno a las organizaciones que necesitan proteger los datos de los clientes o de los usuarios individuales para evitar que se intercepten sus datos confidenciales. Sin embargo, dada la prevalencia del comportamiento tóxico, ya es hora de que la comunidad de ciberseguridad también preste la debida atención a la seguridad en Internet, especialmente para los niños y los usuarios más jóvenes.

La startup L1ght, con sede en Israel, tiene como objetivo frenar la propagación del mal comportamiento en línea. Utiliza inteligencia artificial (IA) y aprendizaje automático (ML) para detectar contenido dañino, discurso de odio, intimidación y otros comportamientos depredadores en redes sociales, aplicaciones de comunicación y videojuegos en línea.

La firma recaudó $ 15 millones en fondos iniciales para desarrollar aún más su plataforma. La ronda de financiación estuvo a cargo de Mangrove Capital Partners, Tribeca Venture Partners y Western Technology Investment.

Recientemente, los gobiernos de Australia, Canadá, Nueva Zelanda, el Reino Unido y los EE. UU. publicaron once principios voluntarios que tienen como objetivo guiar a las empresas de tecnología sobre cómo mitigar y abordar los problemas de explotación y abuso infantil en sus plataformas. La Technology Coalition, que está compuesta por gigantes tecnológicos que incluyen a Google, Microsoft y Facebook, ha respaldado estos principios. El grupo se compromete tanto a promover la conciencia como a buscar nuevas tecnologías que puedan ayudar a abordar el problema.

L1ght está en una posición única para un jugador importante en este espacio en particular.

La propagación de la toxicidad en línea

Si bien Internet es ahora una parte fundamental de la vida de todos, también se ha convertido en un motivo importante de preocupación para los padres y tutores de todo el mundo.

Muchos usuarios de Internet difunden discursos de odio y exhiben comportamientos abusivos para dañar a otros usuarios. Más de la mitad, o el 59 por ciento, de los adolescentes en los EE. UU. han sufrido ciberacoso o acoso en línea. Las víctimas del acoso cibernético, las formas de comportamiento como los insultos, la difusión de rumores falsos y las amenazas físicas pueden sufrir efectos psicológicos negativos.

Es más probable que experimenten cambios en sus patrones de sueño y que muestren síntomas de depresión.

Además de recibir amenazas y abusos en línea, los jóvenes usuarios de Internet también pueden encontrarse en manos de depredadores que se dirigen a personas jóvenes y vulnerables. Utilizando tecnología y técnicas avanzadas, estos ciberdelincuentes pueden ocultar de manera experta su comportamiento abusivo del software de control parental y la aplicación de la ley.

Los depredadores generalmente se unen a plataformas, salas de chat y foros legítimos para contactar a menores y establecer una relación falsa. Los jóvenes desprevenidos pueden ser fácilmente atraídos y explotados por estos adultos maliciosos. Más de uno de cada diez, o el 11 por ciento, de los adolescentes han experimentado solicitudes en línea no deseadas.

Uso de IA para combatir el contenido dañino

Afortunadamente, soluciones como L1ght buscan reforzar el filtrado de contenido y las medidas de moderación en varias plataformas y utilizar la IA para señalar el comportamiento abusivo. Su integración con diferentes plataformas también puede ayudar a los moderadores, propietarios, desarrolladores y editores a eliminar el mal comportamiento eliminando contenido dañino e incluso tomando medidas contra las cuentas y los usuarios.

L1ght también emplea un equipo multidisciplinario de científicos de datos, expertos en seguridad cibernética, psicólogos y antropólogos para crear algoritmos sofisticados que pueden identificar matices en la comunicación para garantizar una detección precisa y oportuna en varios formatos de contenido, como texto, imágenes y video.

CEO y cofundador de L1ght, Zohar Levkovitz

A diferencia de los filtros de contenido convencionales que usan listas negras para las palabras prohibidas, el algoritmo de L1ght puede identificar posibles variantes y ortografías de palabras abusivas para prohibirlas de manera efectiva. Esto significa que no hay forma de que los usuarios eludan los filtros y usen expresiones de odio en las discusiones en línea.

Además, la tecnología es lo suficientemente sofisticada como para analizar los intercambios en línea para detectar diferencias entre diferentes tipos de conversaciones, como conversaciones amistosas y abuso verbal.

La financiación obtenida recientemente se utilizará para desarrollar aún más los algoritmos de L1ght para detectar mejor la toxicidad en tiempo real.

Una Internet más segura para los niños

A través de su plataforma, L1ght tiene como objetivo eliminar el comportamiento tóxico en línea y crear un entorno en línea seguro que permita a los usuarios jóvenes disfrutar de los beneficios de Internet sin sufrir daños.

«Mi cofundador Ron Porat y yo comenzamos L1ght porque vimos los peligros que enfrentaban nuestros hijos en línea y sentimos que no se había hecho lo suficiente para abordar estos problemas», dice el cofundador y director ejecutivo de L1ght, Zohar Levkovitz.

«Nuestra principal prioridad siempre ha sido mantener a los niños seguros, y esta inversión es una prueba más de que nuestra tecnología puede lograrlo. Me siento honrado y agradecido de que nuestra misión en L1ght sea validada a través de esta ronda inicial de verdaderos titanes de la industria».

Prevenir el mal comportamiento y disuadir otras formas de ciberdelincuencia debería ser parte de los debates modernos sobre ciberseguridad, y soluciones como L1ght están contribuyendo a una Internet más segura, especialmente para los niños.

Continua leyendo

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Newsletter Signup

Suscríbete a nuestra lista si te interesa recibir turcos exclusivos sobre hacking y seguridad informática