Mostrando entradas con la etiqueta Investigación. Mostrar todas las entradas
Mostrando entradas con la etiqueta Investigación. Mostrar todas las entradas

11.12.13

Validez de contenido (3 de 3): Evaluación por jueces

Autor: Dr. José Supo

En primer lugar, vamos a diferenciar el concepto de juez y de experto, porque son dos términos que en muchas ocasiones se consideran como sinónimos y no necesariamente lo son.


En nuestro ejemplo de las costumbres que tienen a la hora del parto las mujeres de una región alto andina en el sur del Perú, un experto es una mujer que atiende el parto de manera empírica y, por lo tanto, conoce la realidad y costumbres de esta región a la hora del parto, pero ellas no son investigadoras, no cuentan con una línea de investigación, y en el caso de ser investigadoras, de seguro que esta sería su línea de investigación porque conocen sobre el tema mejor que ninguno.

Por otro lado, un juez, dentro del tema de la validación de instrumentos, es una persona que nos ayuda a evaluar los ítems que hemos formulado y si bien son investigadores, su línea de investigación no necesariamente es la misma que la nuestra, de manera que no necesariamente son expertos en el tema que estamos  investigando.

Si solicitamos a una persona que conoce sobre validación de instrumentos, tanto del punto de vista cuantitativo como cualitativo, que nos ayude a evaluar si los ítems que hemos redactado son correctos, esta persona es un especialista en evaluar cuestionarios, pero no es un experto en el tema de las costumbres que tienen a la hora del parto las mujeres; por lo tanto, este profesional nos podrá servir como juez pero no como experto.

Por otro lado, tenemos a las mujeres que atienden el parto de manera empírica; ellas conocen bastante sobre el tema y pueden ser consideradas expertas, pero en ningún caso nos podrán ayudar en la evaluación de la idoneidad de los ítems que estamos construyendo. 


Notemos que el concepto de experto es distinto al concepto de juez, aunque habrá algún caso en el que un juez también pueda ser un experto y viceversa, aclarada de la diferencia entre experto y juez y luego de haber usado la experiencia de los expertos, ahora vamos a hacer uso del  juicio de los jueces.

En este punto tenemos ya un listado de aproximadamente 50 preguntas con sus respectivas respuestas, pero esto todavía no puede ser considerado un instrumento, porque lo vamos a someter a la evaluación por jueces, por lo tanto, el primer punto es hacer una selección adecuada de jueces. Para ello recordemos que el investigador es tanto un experto como un juez dentro de su línea de investigación y su experiencia es pertinente al momento de elegir los jueces.

Convencionalmente se eligen jueces en un numero de cinco y estos, en lo posible, deben ser multidisciplinarios, es decir, deben pertenecer a distintos campos del conocimiento a fin de evitar percepciones sesgadas y opiniones subjetivas acerca del tema o concepto que estamos evaluando.

La tarea de los jueces es evaluar los ítems que ya hemos construido, ellos de ninguna manera nos ayudan en la construcción de los ítems, porque no necesariamente son expertos y si lo fueran ya habríamos hecho uso de su experiencia en el paso anterior, que era cuando enlistábamos los temas. 

Ahora, su función es únicamente hacerla de juez y ellos van a revisar nuestros ítems en función a la suficiencia, pertinencia y claridad con la que estén redactados.

Veamos el concepto la suficiencia, si hemos desarrollado un cuestionario para evaluar los conocimientos sobre las operaciones aritméticas en un grupo de niños, debemos plantear preguntas sobre suma, resta, multiplicación y división. En el caso de que hayamos revisado preguntas únicamente sobre suma, resta, multiplicación y no división, entonces, no estamos siendo suficientes, porque existe una operación matemática que no estamos  incluyendo.

Claro que es fácil darse cuenta en el ejemplo señalado que falta la división, sin embargo, en nuestro ejemplo de la evaluación de la adicción a Internet, es difícil darse cuenta cuál es el ítem que no estamos incluyendo o cuál es el concepto que está faltando en este prototipo de instrumento que hemos construido, la tarea del juez es decirnos si falta cubrir algún concepto, si los ítems que hemos redactado son suficientes con el tema que estamos buscando evaluar.

Veamos ahora la pertinencia, en nuestro ejemplo del examen de matemáticas a un grupo de niños para evaluar sus conocimientos sobre operaciones algebraicas incluimos suma, resta, multiplicación y división,  pero le colocamos una pregunta sobre radicación, esta pregunta no es pertinente y en nuestro ejemplo es fácil darse cuenta que la radicación no pertenece a las operaciones algebraicas.

Sin embargo, esto no es tan fácil de lograr en todos los casos, como en el ejemplo de la construcción de un instrumento para evaluar la adicción a Internet, ya es más difícil darse cuenta de que si una pregunta que hemos incluido en  nuestro cuestionario realmente corresponde al tema que estamos tratando de evaluar; la tarea del juez es decirnos si es pertinente o no incluir el ítem que le estamos planteando.

Ahora, veamos el concepto de claridad, si queremos evaluar el nivel de conocimientos que tienen un conjunto de estudiantes de medicina sobre los signos de alarma que presentan las gestantes o que podrían presentar las mujeres durante su gestación, podemos utilizar terminología técnica, podemos utilizar términos médicos.

Pero si queremos evaluar el nivel de conocimientos que tienen sobre los signos de alarma en las propias gestantes, es evidente que no podemos utilizar terminología técnica, no podemos hacer uso de los términos médicos como si nos estuviéramos comunicando únicamente entre profesionales médicos.

La terminología debe estar apuntando a la población a la cual quiere evaluar, en ese sentido, los ítems deben estar redactados con la claridad respectiva, relacionada al nivel de conocimientos que tiene la población objetivo.


La finalidad del procedimiento de la evaluación por jueces es que podamos seguir reduciendo el número de ítems. Si hemos partido con un numero de 50, planteamos reducir en un 20% el número de ítems, de manera que nos quedaremos únicamente con 40.


La evaluación que hacemos sobre los ítems apoyado en los jueces es netamente cualitativa, no existen procedimientos matemáticos, no hay fórmulas, ni algoritmos para decidir con que ítems nos quedamos, son los jueces que sugieren la idoneidad de los ítems sin capacidad de decisión.

Es decisión final del investigador cuál de los ítems debe ser eliminado o cuáles deben ser eliminados, recordando que el investigador, el autor del cuestionario que se está construyendo, además de experto es un juez y un especialista dentro de su línea de investigación.

¿Quieres saber más? descarga el ebook "Como validar un instrumento" aquí

José Supo
Médico Bioestadístico

14.10.13

Validez de contenido (2 de 3): Exploración del concepto

Autor: Dr. José Supo

Este procedimiento lo realizamos únicamente si nos encontramos en las dos últimas situaciones: cuando el concepto está parcialmente definido o cuando el concepto aún no está definido, porque si encontramos que el concepto está plenamente definido, entonces construir un instrumento cuyo contenido alcance el constructo no tiene ninguna dificultad.

Como lo habíamos mencionado, cualquiera puede elaborar un examen de aritmética que involucre la suma, resta, multiplicación y división a fin de evaluar el nivel de conocimientos en un grupo de niños previamente entrenados.

Sin embargo, en las otras dos circunstancias, cuando el concepto está parcialmente definido o cuando el concepto no está definido, debemos explorar el concepto y esta tarea se realiza mediante una aproximación a la población, para lo cual utilizaremos la herramienta denominada entrevista a profundidad. ¿Qué es una entrevista a profundidad? Y ¿A quién o quienes debemos realizarla?

En este momento debemos anunciar que existen dos niveles de exploración: a nivel de la población y a nivel de expertos, veamos el primer caso exploración a nivel de la población es cuando entrevistamos a los sujetos que más adelante serán objetos de evaluación; y el segundo caso a nivel de expertos, es cuando entrevistamos a personas que no siendo investigadores conocen más que nosotros acerca del tema que deseamos medir.

En nuestro ejemplo acerca de las costumbres que tienen a la hora del parto las mujeres de una región alto andina en el sur del Perú, la población de estudio son las mujeres gestantes porque de ellas queremos conocer sus costumbres, son ellas las que expresan su culturalidad a la hora del parto y son a ellas a quienes más adelante les vamos a brindar una atención intercultural, ellas corresponden a nuestras unidades de estudio.

Pero también tenemos a las parteras, mujeres que empíricamente ayudan a atender el parto a aquellas gestantes que no acuden al hospital para atender su parto o para tener un parto institucional. Ellas tienen un largo recorrido atendiendo el parto a estas mujeres, conocen incluso mejor que las propias gestantes, las costumbres a la hora del parto, pero estas parteras no constituyen el objeto de estudio, por lo tanto no corresponden a las unidades de estudio, son expertas en cuanto a las costumbres regionales, y a aun no siendo investigadores nos ayudarán en la construcción del instrumento.

Identificadas las dos instancias o niveles en los que podemos realizar nuestra entrevista a profundidad, ahora veremos en qué consiste.

Una entrevista a profundidad no es más que una conversación, donde el entrevistador estimula y conduce un discurso continuo, cuyo único marco es el de la investigación; y se hace con una sola pregunta; nos dirigimos a  las parteras y les preguntamos ¿cuáles son las costumbres que tienen a la hora del parto las mujeres de esta región?, y a medida de que vayan surgiendo las respuestas del entrevistado iremos formulando interrogantes adicionales; aquí no hay un libreto, es una entrevista no estructurada, no tenemos un listado de preguntas que vamos a realizar.

Solamente tenemos una pregunta, el contenido y la profundidad de la entrevista no estructurada es adaptable y susceptible de aplicarse a toda clase de sujetos, incluso si no tienen una formación académica o escolar, perfectamente se puede aplicar en situaciones diversas, se trata de una entrevista netamente cualitativa y es holística porque busca explorar y descubrir las características en la persona entrevistada de manera amplia.

 No hay reglas; el objetivo es identificar las percepciones personales que tienen a nivel individual cada uno de los evaluados, no clasifica, no tiene interés en tabular los datos, lo único que se busca con este procedimiento es encontrar el mayor número de características que nos puedan emitir y enunciar las personas entrevistadas.

Los únicos limites que le ponemos a esta conversación son los propios de la  investigación y el discurso debe correr entre estos causes,  no hay otra forma de explorar el concepto, incluso es posible que las personas a quienes estemos entrevistando no tengan la formación académica, no conozcan la terminología técnica que a veces utilizamos y por ello tendremos que adaptarnos  a su propio lenguaje.

De algún modo debemos traducirles lo que nosotros queremos conocer, no hay otra forma de conocer estos hechos, para lograr el éxito de la entrevista abierta debemos saber con antelación cuál es la finalidad de la entrevista. En nuestro ejemplo, conocer las costumbres a la hora del parto que tienen las mujeres de esta región.

También debemos contar con una forma de registro del dialogo, idealmente este registro debe ser en formato de audio, porque introducir un tablero, una hoja donde vamos a escribir las características que nos van mencionando los entrevistados, puede perturbar la conversación y el dialogo con estas personas.

En esta parte no hay que preocuparse por no contar con un instrumento, porque precisamente estamos tratando de elaborar uno. Como nuestra necesidad es construir un instrumento, los resultados que obtengamos de esta entrevista, no tienen posibilidad de ser generalizamos, no son inferenciales, no tienen el carácter universal, la única finalidad que tienen es el de la exploración.

Todas estas características en su conjunto, hacen pensar que la entrevista a profundidad es más arte que ciencia y no estamos equivocados al pensar así, porque no cualquiera puede entrevistar con eficiencia a un grupo de mujeres que no tienen la misma formación académica o profesional que el investigador.

El éxito de la entrevista también depende de la empatía que se produce entre el entrevistador y el entrevistado para obtener la mayor cantidad de información posible en este procedimiento; por lo tanto, algunos investigadores tendrán más éxito que otros a la hora de explorar conceptos  mediante la aproximación a la población e indudablemente el investigador también tiene que ser considerado un experto dentro de este tema, pues es el portador de esta línea de investigación, es el que está iniciando el estudio de un nuevo tema.

Entonces, la exploración del concepto que deseamos medir se desarrolla en dos situaciones: el primer caso es cuando el concepto está parcialmente definido los resultados de la entrevista complementan la información que hemos encontrado mediante la revisión de la literatura;


El segundo caso es cuando el concepto aún no está definido, la exploración del concepto es el único medio para proveernos de información vital que nos permitirá a partir de ese momento construir el instrumento que deseamos elaborar y la exploración del concepto se realiza mediante la técnica de recolección de datos denominada “la entrevista de investigación”, específicamente “la entrevista a profundidad”.

¿Quieres saber más? descarga el ebook "Como validar un instrumento" aquí

José Supo
Médico Bioestadístico

27.1.13

Validez de contenido (1 de 3): Revisión de la literatura

Autor: Dr. José Supo

La validación de instrumentos tiene dos fases: la validez de contenido (fase cualitativa) y la evaluación de sus propiedades métricas (fase cuantitativa); la validez de contenido corresponde a la creación del instrumento y consta de tres momentos que son: la revisión de la literatura (validez racional), la exploración del concepto (validez de respuesta) y el juicio de expertos (validación por jueces).

La revisión de la literatura consiste en la revisión del conocimiento que se tiene en este momento del concepto que deseas medir, entonces se te va a presentar alguna de estas tres circunstancias: Primero, el concepto está plenamente definido, segundo, el concepto está parcialmente definido y tercero, el concepto no esta definido. Veamos un ejemplo en cada de estas tres situaciones y que debemos hacer para construir un instrumento que tenga validez de contenido. 

Primero, el concepto está plenamente definido 

Imagina que le estas enseñando a un grupo de niños las operaciones aritméticas y deseas evaluar el nivel de conocimientos que han alcanzado luego de un periodo de preparación, lo que debes hacer es construir un listado de ejercicios, de ítems o de preguntas que contengan: la suma, resta, multiplicación o división ¿qué pasaría si el examen que les han planteado incluye únicamente suma, resta, multiplicación y no división?

Entonces, el instrumento que acabas de construir no alcanza el concepto, no es suficiente para el constructo que deseamos evaluar, ahora, si las operaciones que has incluido en este examen son suma, resta, multiplicación y radicación, nos estamos saliendo del contexto del concepto y en este caso tampoco habrá validez de contenido.

La única forma de asegurar que realmente estamos recogiendo el concepto es, cuando el concepto está plenamente definido, así como las operaciones aritméticas suma, resta, multiplicación y división sin lugar a dudas, pero no siempre nos vamos a encontrar con una circunstancia tan fácil de definir, si queremos elaborar un examen para medir el conocimiento en anatomía en un grupo de estudiantes de medicina deberemos elaborar indudablemente preguntas sobre; cabeza y cuello, tórax y abdomen, miembros superiores, miembros inferiores y pelvis periné.

Si bien se han identificado las dimensiones del instrumento que queremos construir, no sabemos cuantas preguntas debemos realizar por cada una de estas dimensiones o bloques de preguntas que vamos a construir, entonces para tener la definición plena del concepto debe existir teoría disponible e incluso algunos instrumentos que han sido elaborados por otros autores.

Segundo, el concepto esta parcialmente definido 

Existen circunstancias en donde podemos encontrar algunos artículos, pero no hay instrumentos y tampoco hay un consenso acerca de lo que deseamos medir. Si quieres construir un instrumento para evaluar la adicción al Internet encontrarás que existen publicaciones al respecto, que existen tentativas de definición pero no existe una teoría sólida que avale esta definición, en ese caso nuestra tarea no puede enfocarse únicamente en revisar la literatura, sino que complementariamente se debe iniciar un proceso de exploración del concepto.

Ahora, como elegir el camino que debemos seguir para la exploración del concepto, necesariamente tendremos que tener conocimientos acerca del concepto para el cual queremos construir un instrumento, lo que no ocurre cuando el concepto no está plenamente definido, es decir cualquiera puede elaborar un examen de aritmética para evaluar el conocimiento de la operaciones matemáticas para un grupo de niños.

Sin embargo no cualquiera podrá elaborar un instrumento para evaluar la adicción al Internet en este caso necesariamente el investigador tiene que pertenecer a la línea de investigación para la cual desea construir un instrumento, por lo tanto el investigador al requerirse como el primer experto dentro de esta temática, tiene que tener experiencia en el desarrollo de estudios dentro de esta línea de investigación, deberá apoyarse en conocimiento publicado hasta este momento y también en el conocimiento que han acumulado diversos investigadores que pertenecen a la misma línea de investigación para poder obtener un concepto de consenso.

Tercero, cuando el concepto no está definido 

No existen teorías y no hay publicaciones al respecto, ni tampoco existen investigadores dentro de esta línea de investigación, en este caso el investigador tendrá que considerar la pertinencia de acuerdo a su experiencia de enunciar su propia teoría, tendrá que construir los conceptos necesarios para poder construir su instrumento.

Como es lógico en este punto donde el concepto no esta definido se requiere que el investigador sea el experto número uno en este tema, por cuanto es el único que pertenece a esta línea de investigación, en este caso hay solamente un camino para seguir por cuanto no existe teoría y no podemos hacer un revisión del conocimiento de los conceptos, tampoco existen investigadores dentro de la misma línea de investigación, pero de seguro habrán personas que no siendo investigadores pueden ser incluidos como expertos y por tanto única fuente de información para la elaboración del instrumento.

Por ejemplo: si queremos conocer cuáles son las costumbres que tienen las mujeres a la hora del parto en una región alto andina en el sur del Perú, con la finalidad de poder realizar una atención intercultural, no existe ninguna publicación acerca de este tema o luego de la búsqueda exhaustiva de la literatura, encontramos que no hay ningún investigador que haya publicado al respecto, entonces nos encontramos en que el concepto aun no está definido, por lo tanto y al no contar con literatura o investigadores que compartan la misma línea de investigación, tendremos que recurrir a personas que no siendo investigadores pueden ser considerados expertos.

Por ejemplo: las mujeres que empíricamente ayudan a las gestantes a tener su parto, llamadas “parteras” en nuestra región y ellas no son investigadoras, ni cuentan con una línea de investigación, pero de seguro tienen más información que nosotros para poder construir un instrumento que busque detectar las características o las costumbres que tiene estas mujeres a la hora del parto, pero esto ya corresponde al siguiente punto de la exploración del concepto, porque la estrategia del investigador dependerá en cuál de estas tres situaciones nos encontramos luego de haber revisado la literatura.

¿Quieres saber más? descarga el ebook "Como validar un instrumento" aquí

José Supo
Médico Bioestadístico