Los motores de búsqueda tradicionales sólo ofrecen acceso a una pequeña parte de lo que existe en la red, por eso se le ha dado el nombre de web
superficial o visible. El resto, la Web profunda, es un amplísimo banco de información ubicado en catálogos, revistas digitales, blogs, entradas a diccionarios y contenido de sitios que demandan un login (aunque sean gratuitos), entre otros tipos de formas de almacenamiento de contenido que no aparecen entre los resultados de una búsqueda convencional.
¿Qué es la Web superficial o visible (Deep Web)?
Comprende todos aquellos sitios cuya información puede ser indexada por los robots de los buscadores convencionales y recuperada casi en su totalidad mediante una consulta a sus formularios de búsqueda.
Las características principales de los sitios de la Web visible son:
- la información no está contenida en bases de datos
- es de libre acceso
- no requiere registro para acceder
Está formada, mayormente, por páginas Web estáticas, es decir páginas o archivos con una URL fija y accesibles desde otro enlace. Son todas aquellas páginas comunes que visitamos en nuestro día a día navegando por la red (Buscadores, Redes Sociales,Páginas web de diversa índole -informativas, blogs, canales de entretenimiento…-)
¿Qué es la Web invisible,Web Profunda o Deep Web?
La Web invisible es el nombre que se ha utilizado para describir toda la información disponible en Internet que no es recuperada por los buscadores convencionales. Generalmente es información almacenada y accesible mediante bases de datos. Si bien el 90% de las bases de datos están públicamente disponibles en Internet, los robots de los buscadores solamente pueden indicar su página principal y son incapaces de entrar dentro de las tablas e indizar cada registro.
La información almacenada es por consiguiente "invisible" a estos robots ya que los resultados se generan frente a una pregunta directa, mediante páginas dinámicas (ASP, PHP...), es decir, páginas que no tienen una URL fija y que se construyen en el mismo instante desapareciendo una vez cerrada la consulta.
Por cada millón de páginas visibles hay otros 500 o 550 millones ocultas, contiene alrededor de unos 100.000 sitios y el 90% suele ofertar su información pública y gratuitamente.
Sherman y Price (2001) identifican cuatro tipos de contenidos invisibles en la Web: la Web opaca (the opaque Web), la Web privada (the private Web), la Web propietaria (the proprietary Web) y la Web realmente invisible (the truly invisible Web).
La Web opaca:
Está compuesta archivos que podrían estar incluidos en los índices de los motores de búsqueda, pero no lo están por alguna de estas razones:
- Extensión de la indización: por economía, no todas las páginas de un sitio son indizadas en los buscadores.
- Frecuencia de la indización: los motores de búsqueda no tienen la capacidad de indizar todas las páginas existentes; diariamente se añaden, modifican o desaparecen muchas y la indización no se realiza al mismo ritmo.
- Número máximo de resultados visibles: aunque los motores de búsqueda arrojan a veces un gran número de resultados de búsqueda, generalmente limitan el número de documentos que se muestran (entre 200 y 1000 documentos).
- URL’s desconectadas: las generaciones más recientes de buscadores, como Google, presentan los documentos por relevancia basada en el número de veces que aparecen referenciados o ligados en otros. Si un documento no tiene un link desde otro documento será imposible que la página sea descubierta, pues no habrá sido indizada.
La Web privada:
Consiste en las páginas web que podrían estar indizadas en los motores de búsqueda pero son excluidas deliberadamente por alguna de estas causas:
- Las páginas están protegidas por contraseñas .
- Contienen un archivo “robots.txt” para evitar ser indizadas.
- Contienen un campo “noindex” para evitar que el buscador indice la parte correspondiente al cuerpo de la página.
La Web propietaria:
Incluye aquellas páginas en las que es necesario registrarse para tener acceso al contenido, ya sea de forma gratuita o pagada. Se dice que al menos 95% de la Web profunda contiene información de acceso público y gratuito.
La Web realmente invisible:
Está compuesta por páginas que no pueden ser indizadas por limitaciones técnicas de los buscadores, como las siguientes:
- Páginas web que incluyen formatos como PDF, PostScript, Flash, Shockwave, programas ejecutables y archivos comprimidos.
- Páginas que se generan a partir de datos que introduce el usuario.
- Información almacenada en bases de datos relacionales, que no puede ser extraída a menos que se realice una petición específica. Otra dificultad consiste en la variable estructura y diseño de
las bases de datos, así como en los diferentes procedimientos de búsqueda.
Características de la Web Invisible o profunda:
• Posee entre 400 y 500 veces más información que la Web normal.
• Entorno al 95% de la web profunda es de información accesible al público, es decir, no hay que pagar nada por ella.
• Hay más de 200 mil millones de sitios web asociados a la Web Invisible.
• La relación contenido-calidad es de alrededor de un 1000% respecto de la web superficial.
• Las páginas funcionan bajo software que protege su identidad, como puede ser TOR.
¿Puedo acceder a la información alojada en la Web Invisible o profunda?
Cualquier persona puede acceder a ella, siempre que sepa por dónde buscarla.
Algunos metabuscadores que permiten acceder a la información alojada en esta parte de Internet:
- Biblioteca virtual WWW: es el catalogo más antiguo en la red, iniciado por Tim Berners-Lee,
- DeepWebTech: ofrece cinco motores de búsqueda para temas específicos. Los motores de búsqueda abarcan la ciencia, medicina y negocios. El uso de estos motores de búsqueda específicos del tema, puede consultar las bases de datos subyacentes en la Web profunda.
- Archive: para búsquedas de temas específicos
- CompletePlanet: búsquedas de diversos temas
- Scirus: se usa para búsquedas de información científica
- Infomine: búsqueedas de material escolar de todo tipo.
- FreeLunch: búsquedas de datos económicos.
