diff --git a/public/scripts/content-moderation.js b/public/scripts/content-moderation.js
index a590585..bc92517 100644
--- a/public/scripts/content-moderation.js
+++ b/public/scripts/content-moderation.js
@@ -93,6 +93,19 @@ class ContentModeration {
'ю': 'yu', // cirílico 'ю' vs latino 'yu'
'я': 'ya' // cirílico 'я' vs latino 'ya'
};
+
+ // Inicializa o modelo NSFW
+ this.nsfwModel = null;
+ this.initNSFWModel();
+ }
+
+ async initNSFWModel() {
+ try {
+ // Carrega o modelo NSFW do TensorFlow.js
+ this.nsfwModel = await tf.loadGraphModel('https://d1zv2aa70wpiur.cloudfront.net/tfjs_models/tfjs_nsfw_mobilenet/model.json');
+ } catch (error) {
+ console.error('Erro ao carregar modelo NSFW:', error);
+ }
}
// Normaliza o texto removendo substituições de caracteres
@@ -124,10 +137,97 @@ class ContentModeration {
async checkNSFW(file) {
if (!this.isMediaFile(file)) return false;
- // Aqui você pode integrar com APIs de detecção de conteúdo NSFW
- // Por enquanto, vamos usar uma verificação básica de nome de arquivo
- const fileName = file.name.toLowerCase();
- return this.blockedWords.some(word => fileName.includes(word.toLowerCase()));
+ try {
+ // Verifica primeiro pelo nome do arquivo
+ const fileName = file.name.toLowerCase();
+ if (this.blockedWords.some(word => fileName.includes(word.toLowerCase()))) {
+ return true;
+ }
+
+ // Se for uma imagem ou vídeo, verifica o conteúdo
+ if (file.type.startsWith('image/')) {
+ return await this.checkImageNSFW(file);
+ } else if (file.type.startsWith('video/')) {
+ return await this.checkVideoNSFW(file);
+ }
+
+ return false;
+ } catch (error) {
+ console.error('Erro ao verificar NSFW:', error);
+ return false;
+ }
+ }
+
+ async checkImageNSFW(file) {
+ if (!this.nsfwModel) return false;
+
+ try {
+ const img = await createImageBitmap(file);
+ const tensor = tf.browser.fromPixels(img)
+ .resizeBilinear([224, 224])
+ .expandDims()
+ .toFloat()
+ .div(255.0);
+
+ const predictions = await this.nsfwModel.predict(tensor).data();
+ tensor.dispose();
+
+ // Verifica se o conteúdo é NSFW
+ const nsfwScore = predictions[1]; // Índice 1 é para conteúdo NSFW
+ return nsfwScore > 0.5; // Threshold de 50%
+ } catch (error) {
+ console.error('Erro ao verificar imagem NSFW:', error);
+ return false;
+ }
+ }
+
+ async checkVideoNSFW(file) {
+ if (!this.nsfwModel) return false;
+
+ try {
+ const video = document.createElement('video');
+ video.src = URL.createObjectURL(file);
+
+ return new Promise((resolve) => {
+ video.onloadeddata = async () => {
+ // Captura frames do vídeo para análise
+ const canvas = document.createElement('canvas');
+ canvas.width = video.videoWidth;
+ canvas.height = video.videoHeight;
+ const ctx = canvas.getContext('2d');
+
+ // Analisa alguns frames do vídeo
+ const frameCount = 5;
+ const interval = video.duration / frameCount;
+ let nsfwFrames = 0;
+
+ for (let i = 0; i < frameCount; i++) {
+ video.currentTime = i * interval;
+ await new Promise(r => video.onseeked = r);
+
+ ctx.drawImage(video, 0, 0);
+ const tensor = tf.browser.fromPixels(canvas)
+ .resizeBilinear([224, 224])
+ .expandDims()
+ .toFloat()
+ .div(255.0);
+
+ const predictions = await this.nsfwModel.predict(tensor).data();
+ tensor.dispose();
+
+ if (predictions[1] > 0.5) {
+ nsfwFrames++;
+ }
+ }
+
+ URL.revokeObjectURL(video.src);
+ resolve(nsfwFrames > frameCount / 2); // Se mais da metade dos frames for NSFW
+ };
+ });
+ } catch (error) {
+ console.error('Erro ao verificar vídeo NSFW:', error);
+ return false;
+ }
}
// Verifica se uma URL contém caracteres cirílicos
@@ -158,161 +258,208 @@ class ContentModeration {
}
// Verifica se é spam ou contém palavras bloqueadas
- isSpam(text) {
- // Verifica se é uma URL
- const urlMatch = text.match(/^(https?:\/\/[^\s]+)|([A-Za-z0-9._%+-]+@[A-Za-z0-9.-]+\.[A-Za-z]{2,})$/);
- if (urlMatch) {
- // Se for uma URL, verifica se é suspeita
- return this.isSuspiciousUrl(urlMatch[0]);
+ isSpam(text, file) {
+ // Verifica se o texto contém palavras bloqueadas
+ const hasBlockedWords = this.blockedWords.some(word => {
+ const regex = new RegExp(`\\b${word}\\b`, 'i');
+ return regex.test(text);
+ });
+
+ // Verifica se o texto contém palavras bloqueadas com substituições
+ const hasBlockedWordsWithSubs = this.hasBlockedWordsWithSubstitutions(text);
+
+ // Verifica se o texto contém URLs suspeitas
+ const hasSuspiciousUrls = this.isSuspiciousUrl(text);
+
+ // Verifica se o texto contém caracteres cirílicos
+ const hasCyrillicChars = this.hasCyrillicChars(text);
+
+ // Verifica se o texto contém emojis impróprios
+ const hasInappropriateEmojis = this.hasInappropriateEmojis(text);
+
+ // Verifica se o texto contém padrões de spam
+ const hasSpamPatterns = this.spamPatterns.some(pattern => {
+ if (pattern.type === 'repeated') {
+ return pattern.regex.test(text);
+ } else if (pattern.type === 'length') {
+ return text.length > pattern.threshold;
+ } else if (pattern.type === 'repetitive') {
+ return pattern.regex.test(text);
+ }
+ return false;
+ });
+
+ // Determina o tipo de conteúdo impróprio
+ let contentType = 'spam';
+ if (hasBlockedWords || hasBlockedWordsWithSubs) {
+ contentType = 'profanity';
+ }
+ if (hasInappropriateEmojis || this.isExplicitContent(text)) {
+ contentType = 'explicit';
+ }
+ if (hasSuspiciousUrls || hasCyrillicChars) {
+ contentType = 'scam';
}
- // Verifica palavras bloqueadas com substituições
- if (this.hasBlockedWordsWithSubstitutions(text)) {
- return true;
- }
-
- // Verifica padrões de spam
- return this.spamPatterns.some(pattern => pattern.test(text));
+ // Retorna o resultado com o tipo de conteúdo
+ return {
+ isSpam: hasBlockedWords || hasBlockedWordsWithSubs || hasSuspiciousUrls ||
+ hasCyrillicChars || hasInappropriateEmojis || hasSpamPatterns,
+ contentType: contentType
+ };
+ }
+
+ // Método para verificar emojis impróprios
+ hasInappropriateEmojis(text) {
+ const inappropriateEmojis = ['🔞', '🍆', '🍑', '🥒', '🥵', '💦', '👅', '👙', '👄', '💋'];
+ return inappropriateEmojis.some(emoji => text.includes(emoji));
+ }
+
+ // Método para verificar conteúdo explícito
+ isExplicitContent(text) {
+ const explicitTerms = ['porn', 'sex', 'nude', 'nudes', 'onlyfans', 'leaks', 'hentai'];
+ return explicitTerms.some(term => text.toLowerCase().includes(term));
}
// Mostra o diálogo de aviso
- showWarningDialog(file, contentType = 'explicit') {
- return new Promise((resolve) => {
- const dialog = document.createElement('div');
- dialog.className = 'content-warning-dialog';
-
- // Define o ícone e mensagem baseado no tipo de conteúdo
- let iconSvg = '';
- let warningTitle = '';
- let warningMessage = '';
+ showWarningDialog(file, contentType = 'spam') {
+ const dialog = document.createElement('div');
+ dialog.className = 'content-warning-dialog';
- switch(contentType) {
- case 'explicit':
- iconSvg = ``;
- warningTitle = 'Conteúdo Explícito';
- warningMessage = 'Este conteúdo pode conter material adulto ou impróprio';
- break;
+ // Define o ícone e mensagem baseado no tipo de conteúdo
+ let icon, title, message;
+ switch (contentType) {
+ case 'explicit':
+ icon = ``;
+ title = 'Conteúdo Explícito';
+ message = 'Este conteúdo pode conter material adulto ou impróprio';
+ break;
+ case 'profanity':
+ icon = ``;
+ title = 'Linguagem Imprópria';
+ message = 'Este conteúdo contém linguagem ofensiva ou inadequada';
+ break;
+ case 'scam':
+ icon = ``;
+ title = 'Possível Golpe';
+ message = 'Este conteúdo pode ser uma tentativa de golpe ou fraude';
+ break;
+ default:
+ icon = ``;
+ title = 'Possível Spam';
+ message = 'Este conteúdo pode ser spam ou tentativa de golpe';
+ }
- case 'profanity':
- iconSvg = ``;
- warningTitle = 'Linguagem Imprópria';
- warningMessage = 'Este conteúdo contém linguagem ofensiva ou inadequada';
- break;
-
- case 'spam':
- iconSvg = ``;
- warningTitle = 'Possível Spam';
- warningMessage = 'Este conteúdo pode ser spam ou tentativa de golpe';
- break;
- }
-
- // Cria um preview da imagem/vídeo com desfoque
- let mediaPreview = '';
- if (this.isMediaFile(file)) {
- const objectUrl = URL.createObjectURL(file);
- if (file.type.startsWith('image/')) {
- mediaPreview = `
-
- ${iconSvg}
-
-
-
${warningTitle}
-
${warningMessage}
-
- ${iconSvg}
-
-
-
${warningTitle}
-
${warningMessage}
-
-
-
`;
+ const content = document.createElement('div');
+ content.className = 'warning-content';
+ content.innerHTML = `
+
+ ${icon}
+
+
+
${title}
+
${message}
+
+
+
+
+ `;
+
+ dialog.appendChild(content);
+ document.body.appendChild(dialog);
+
+ // Adiciona eventos aos botões
+ const cancelBtn = content.querySelector('.btn-cancel');
+ const viewBtn = content.querySelector('.btn-view');
+ const mediaPreview = content.querySelector('.media-preview');
+
+ cancelBtn.onclick = () => {
+ dialog.remove();
+ URL.revokeObjectURL(mediaPreview.querySelector('img, video').src);
+ };
+
+ viewBtn.onclick = () => {
+ mediaPreview.classList.remove('blurred');
+ viewBtn.style.display = 'none';
+ cancelBtn.textContent = 'Fechar';
+ };
+
+ // Adiciona evento para fechar com ESC
+ document.addEventListener('keydown', function escHandler(e) {
+ if (e.key === 'Escape') {
+ dialog.remove();
+ URL.revokeObjectURL(mediaPreview.querySelector('img, video').src);
+ document.removeEventListener('keydown', escHandler);
}
-
- dialog.innerHTML = `
-
- ${mediaPreview}
-
-
-
-
-