I got 51 problems but a #2 pencil ain’t one. 51 tuve problemas, sino un lápiz # 2 no es uno.

Booz Allen Hamilton has a funny name but they’re all about serious business. Booz Allen Hamilton tiene un nombre gracioso, pero todos son graves acerca de los negocios. The “global strategy and technology La "estrategia global y la tecnología consulting firm empresa de consultoría ” was contracted by the College Board in the fallout of the SAT scoring mistakes from last October. "Ha sido contratado por el College Board en la precipitación de la SAT los errores de puntuación el pasado mes de octubre. They audited the testing process and made a report, which was hidden away. Ellos auditado el proceso de pruebas e hizo un informe, que fue escondido. At least until Senator LaValle used subpoena powers and Al menos hasta el senador Lavalle utilizado citación y competencias demanded the report exigió el informe be made public–they were required to do so by New York’s “truth in testing” state laws but the College Board stated that they were “exempt from state law.” I love this choice quote: “Once again The College Board’s approach to problems is to shroud them in secrecy,” Senator LaValle said in a July 13 news release. se hagan públicos-que están obligados a hacerlo de Nueva York la "verdad en los ensayos" las leyes estatales, pero el College Board dijo que estaban "exentos de la ley del estado." Me encanta esta elección textualmente: "Una vez más, el College Board ' s enfoque de los problemas es mortaja en secreto ", dijo el senador Lavalle en un 13 de Julio comunicado de prensa. Their attitude gives rise to greater questions as to their true purpose .” What do you mean, Senator LaValle? "Su actitud da lugar a mayores problemas en cuanto a su verdadera finalidad." ¿Qué quiere decir, el Senador Lavalle? Is there still a problem? ¿Existe todavía un problema?

“The board’s lack of accountability in this matter goes to the heart of the arrogance that exists when an organization basically holds a monopoly in a certain market,” LaValle said in a statement following the release of the report. "La junta la falta de rendición de cuentas en este asunto va al corazón de la arrogancia que se produce cuando una organización básicamente tiene un monopolio en un determinado mercado", dijo Lavalle en una declaración tras la publicación del informe. “This report still does not answer why such a large number of testing errors occurred on the October 2005 SAT. "Este informe aún no responde a por qué un número tan grande de errores en las pruebas en octubre de 2005 SAT. In addition, the board has not provided an explanation of why it took several months to inform over 4,000 students of inaccurate test scores.” Además, la junta no ha proporcionado una explicación de por qué tardó varios meses para informar a más de 4000 estudiantes de inexactos los resultados de estas pruebas. "

Additionally, The National Center for Fair and Open Testing responded to the report by releasing a list of questions that the study did not answer. Además, El Centro Nacional para la Feria y Open Testing respondió al informe de la liberación de una lista de preguntas que el estudio no respondió. Among them: What was the root cause of the problem? Entre ellos: ¿Cuál es la causa raíz del problema? When did The College Board receive the first request for hand scoring of the October SAT? ¿Cuándo El College Board de recibir la primera solicitud de cambio de calificación de SAT de octubre? How many weeks did it take for the board to respond to that request? ¿Cuántas semanas lo hizo para tomar la junta para responder a esa petición? When did The College Board first discover a broad problem? ¿Cuándo fue la primera del College Board de descubrir un amplio problema? Why was there a delay between that time and when test takers and others were informed of the problem? ¿Por qué existe un retraso entre ese momento y cuando la toma de pruebas y otros fueron informados del problema?

[thanks, [gracias, Daily Stanford Daily Stanford ]

Now, I went into that report (it’sa powerpoint presentation) and picked out some of the most fun parts of it. Ahora, me fui en ese informe (se trata de una presentación en powerpoint) y recogió algunas de las partes más divertidas de ella. Actually, it’s more a case of me fearmongering by promoting potentially frightening sections of a report which just goes to show how flimsy the SAT is as part of a situation which just demonstrates how much that not-for-profit status is bullshit. En realidad, es un caso más de mí fearmongering mediante la promoción potencialmente aterrador secciones de un informe en el que sólo va a mostrar cómo las endebles SAT es como parte de una situación que sólo demuestra lo mucho que sin fines de lucro estado es bullshit.


The report was released July 26 and has since been buried from the public as best the College Board can manage. El informe fue puesto en libertad 26 de Julio y desde entonces ha sido enterrado por el público como el mejor del College Board puede manejar. It’s available on their website Está disponible en su página web here aquí ; I’m not making this stuff up. ; No estoy haciendo estas cosas. Booz Allen Hamilton placed each of the 51 identified error-risk-locations into one of these categories: Booz Allen Hamilton coloca cada uno de los 51 identificados error de riesgo lugares en una de estas categorías:

A. Not at all mitigated or detected A. No, en absoluto o mitigarse detectado
B. Partial mitigation or detection of risk B. parcial o detección de mitigación de riesgo
C. Substantial mitigation or detection of risk C. sustanciales de mitigación o de detección de riesgo
D. Completely mitigated or detected D. Totalmente mitigarse o detectados

There were some really cute flowcharts and diagrams, too–even little pie charts of “overall rating” for the likelihood a particular flaw in the testing chain could fail. Había algunos realmente cute diagramas de flujo y diagramas, incluso demasiado poco gráficos circulares de "total" para la probabilidad de una falla en la cadena de pruebas podría fracasar. There were several charts–one titled “Prioritization of Risk” (on slide 54 for those reading along) shows the killzone. Hubo varias cartas de un titulado "Prioridades de Riesgo" (en diapositiva 54 para los que a lo largo de la lectura), muestra el killzone. These 4 were both of “higher impact” (ie “affects large part or whole answer sheet”) and “high likelihood,” remember the color scheme: 4 Estos son a la vez de "mayor impacto" (es decir, "afecta a gran parte o toda la hoja de respuestas") y "alta probabilidad", recuerda el esquema de color:

7. Scanner reading variation due to erasure 7. Escáner de lectura variación debido a la supresión
3. 3. Scanner variation on marginal marks Escáner variación marginal en las marcas
4. Scanner reading variation due to alternative writing implement Escáner de lectura variación debido a la aplicación de alternativas por escrito
26. Answer sheets left in test books Respuesta hojas que quedan en los libros de ensayo

Don’t worry, they provide partial solutions on slide 56. No se preocupe, que ofrecen soluciones parciales a diapositiva 56. For instance, pesky #7 can be solved by… Por ejemplo, # 7 molestos pueden ser resueltos por…

  1. Continue double scan Continuar doble barrido
  2. Supply pencils/erasers at test centers Suministro de lápices y borradores a los centros de prueba

Wait, that’s it? Espera, eso es todo? That’s how they solve it? Eso es cómo solucionarlo? What about the blank spaces under “medium-term improvements” and “major future changes” or “follow-on analysis”? ¿Qué pasa con los espacios en blanco en "mediano plazo mejoras" y "grandes cambios futuros" o "sucesión de análisis"? Why is there even the “follow-on analysis” table if there is nothing in it on that entire slide? ¿Por qué existe aún la "sucesión de análisis" cuadro si no hay nada en ella que en toda la diapositiva? Okay, whatever. Bueno, lo que sea. How do we solve “ Scanner reading variation due to alternative writing implement ” ? ¿Cómo podemos resolver "Escáner lectura variación debido a la aplicación de la escritura alternativa"? We… supply pencils and erasers at test centers. Nosotros… suministro de lápices y borradores a los centros de prueba. Oh. And that finishes it? Y que termina? Oh, we can “Investigate software upgrades for consistent readings (color scanning, wavelength, etc.)” also? Oh, podemos "investigar las actualizaciones de software para la coherencia de las lecturas (escaneado en color, la longitud de onda, etc)" también? That’s great. Eso está muy bien. And then eventually have an online test? Y luego tener una prueba en línea? That sounds stupid but I’ll take your word for it. Eso suena estúpido, pero voy a tomar su palabra para ella. Hmm, those problems sound easier to fix than some of the other ones, though. Hmm, los problemas de sonido más fácil de arreglar que algunos de los otros, sin embargo. Error 51, Errors in deleting items from database –that sounds nasty. Error 51, errores en la supresión de elementos de base de datos-que suena desagradable. You would have to ” Ensure DB backup and rollback procedures in place” to solve that one. Usted tendría que "Velar por el PP y el desmantelamiento de copia de seguridad en los procedimientos de lugar" para resolver que uno.

Oh well, I’ll trust that stuff. Oh así, yo confío en que cosas. I’ll just skip to the appendix and see if there is anything else of interest…Oh, look, here are some of those things that were of lower likelihood! Yo sólo salto a la apéndice y ver si hay cualquier otra cosa de interés… Oh, mira, aquí hay algunas de esas cosas que son de menor riesgo! These can’t be very important. Estos no pueden ser muy importantes. Hang on, they could have “higher” impact? Hang, que podría tener "mayor" impacto? Okay, what happens if there is “Scanner variation due to smeared pencil marks.” That can’t be that bad. Bueno, ¿qué ocurre si hay "Escáner variación debido a manchas marcas de lápiz." Eso no puede ser tan malo. Smeared pencil marks due to manual handling–I can see that happening, I guess. Unta lápiz marcas debido a la manipulación manual-puedo ver que pasa, supongo. And what’s the result? Inaccurate scores ? Y lo que es el resultado? Impreciso resultados? Say it ain’t so! Decir que no es así! Well, at least there are now protections for that. Bueno, al menos ahora hay protecciones para ello. Wait, there are “none” now or in the foreseeable future? Espere, hay "ninguna" ni ahora ni en un futuro previsible? Dang. Too bad there are several other ways for that to happen, too–not least among them a PEM database corruption which results in data storage failure and then… inaccurate scores. Demasiado malo hay varias otras maneras para que esto suceda, también-no por ello menos importante entre ellos una base de datos de PEM corrupción que se traduce en el fracaso de almacenamiento de datos y luego… resultados inexactos. And which again has “none” ways against happening right now. Y que de nuevo tiene "ninguna" contra los medios ocurriendo ahora mismo. Glad to see you have it all under control, College Board, but I’m still seeing a little too much red . Estamos encantados de ver que lo tienes todo bajo control, College Board, pero todavía estoy viendo un poco demasiado rojo. Not you, though–all you see is green, green, cash. ¿No es usted, sin embargo, todo lo que ve es verde, verde, dinero en efectivo. Good thing you still manage to keep the best interests of the students your balance books in mind. Buena cosa que todavía logra mantener el interés superior de los estudiantes libros de su saldo en cuenta.

Finish with more from the Daily Stanford article… Terminar con más de Stanford el Daily el artículo…

In the long run, the report makes the recommendation of offering the SAT online as a way to minimize scoring problems due to mechanical malfunctions, though the prospect of an online SAT raises many security questions. A largo plazo, el informe hace la recomendación de ofrecer en línea el SAT como una forma de minimizar problemas de puntuación debido a mal funcionamiento mecánico, aunque la perspectiva de una SAT en Internet plantea muchas cuestiones de seguridad. Certainly, the amount of weight given to SAT scores in college admissions necessitates that the process be carefully scrutinized for error. Ciertamente, la cantidad de peso dado a puntajes en los SAT de admisión en la universidad requiere que el proceso se analicen cuidadosamente para el error.

Although The College Board insists that the mistakes that led to last fall’s incorrect exams will be fixed, and the problem was an isolated incident, the organization’s reputation as a supposedly non-profit, fair institution has been damaged by the mistake and its initial refusal to cooperate with the Senate Higher Education Committee. A pesar de que el College Board insiste en que los errores que condujeron a la última caída de la incorrecta exámenes serán fijadas, y el problema fue un incidente aislado, la organización reputación como supuestamente sin fines de lucro, justo institución se ha visto perjudicada por el error y su inicial negativa a cooperar con el Senado Comité de Educación Superior. Moreover, this gives rise to the question of whether the SAT should continue to be used in college admissions. Por otra parte, esto da lugar a la cuestión de si el SAT debe seguir siendo utilizado en la universidad de admisión.

Wooooo.

Oh, for dessert: here are all 51 problem areas: Oh, para el postre: aquí están todas las 51 áreas problemáticas:

A. Not at all mitigated or detected A. No, en absoluto o mitigarse detectado
B. Partial mitigation or detection of risk B. parcial o detección de mitigación de riesgo
C. Substantial mitigation or detection of risk C. sustanciales de mitigación o de detección de riesgo
D. Completely mitigated or detected D. Totalmente mitigarse o detectados
6. Scanner wrongly picks up persistent debris as a mark 6. Escáner erróneamente recoge los desechos como la persistencia de una marca
7. Scanner reading variation due to erasure 7. Escáner de lectura variación debido a la supresión
8. Scanner reading variation on hesitation marks 8. Escáner de lectura variación en duda las marcas
17. Answer sheet wrongly force matched to student 17. Hoja de respuestas indebidamente la fuerza corresponde a estudiante
22. Scanner misreads marks due to scan track corruption 22. Escáner misreads marcas debido a escanear pista corrupción
25. Packages tampered with before shipping 25. Paquetes manipulado antes de enviar
32. Scanner variation due to smeared pencil marks 32. Escáner variación debido a las marcas de lápiz unta
47. Key entry mistakenly mixes pages from different answer sheets 47. Clave de entrada por error mezclas diferentes páginas de las hojas de respuesta
49. PEM database gets corrupted 49. PEM base de datos está dañado
51. Errors in deleting items from database 51. Errores en la supresión de elementos de base de datos
1. Bubble alignment error due to paper manufacturing 1. Bubble error de alineación debido a la fabricación del papel
2. Paper alignment error due to paper material 2. Documento de la alineación debido a error material en papel
3. Scanner variation on marginal marks 3. Escáner variación marginal en las marcas
4. Scanner reading variation due to alternative writing implement 4. Escáner de lectura variación debido a la aplicación de alternativas por escrito
5. Scanner wrongly picks up loose debris as a mark 5. Escáner erróneamente recoge los desechos sueltos como una marca
9. Inconsistency in scanning of double grids 9. Incoherencia en la digitalización de las redes de doble
10. Scanner picks up unintended marks from back side of paper 10. Escáner capta marcas no deseadas de parte de atrás de papel
11. Scanner picks up unintended marks due to rubbing adjacent pages 11. Escáner capta marcas no deseadas debido a los roces adyacentes páginas
12. Editor assigns incorrect answer key due to invalid/missing test code/ form code 12. Editor asigna clave de respuestas incorrectas, debido a no válidos / desaparecidos código de ensayo / form código
13. Incorrect answer key used due to student entering wrong valid test/form code 13. Incorrecta clave de respuestas utilizado debido a mal estudiante entrar en la validez de la prueba / form código
16. Answer sheet wrongly manually matched to student by PEM 16. Erróneamente hoja de respuestas manual adaptado a los estudiantes de PEM
19. Student gets incomplete score using composite answer sheet 19. Incompleta Estudiante obtiene utilizando compuestos Resultado hoja de respuestas
21. Scanner reading variation due to partially wet sheets 21. Escáner de lectura variación debido en parte a las hojas mojadas
26. Answer sheets left in test books 26. Respuesta hojas de la izquierda en los libros de ensayo
28. Answer sheets go missing before receipt 28. Respuesta ir hojas que faltan antes de la recepción
37. Scanner variation on “good” marks due to unforeseen paper distortion 37. Escáner variación sobre las "buenas" marcas debido a imprevistos documento de distorsión
38. 2 nd scanner out of tolerance 38. 2 ª escáner de la tolerancia
39. 1 st scanner out of tolerance 39. 1 ª escáner de la tolerancia
40. Both scanners out of tolerance 40. Ambos escáneres fuera de la tolerancia
41. Unforeseen events cause scanner variation 41. Acontecimientos imprevistos causa escáner variación
43. Scanner software bugs due to code changes 43. Escáner bugs de software debido a cambios en el código
44. Wrong answer sheet pulled from batch for editing 44. Wrong hoja de respuestas se retiraron de lote para la edición
48. Item level edit mistake 48. Tema nivel editar error
15. Answer sheet wrongly automatched to student 15. Hoja de respuestas automatched erróneamente a los estudiantes
18. Scanner reading variation due to humidity/ moisture 18. Escáner de lectura variación debido a la humedad y la humedad
20. Typed essay not correctly matched to student 20. Ensayo escrito correctamente, no corresponde a estudiante
23. Packages are tampered with during shipping 23. Los paquetes son alterados durante el transporte
24. Packages are damaged during shipping 24. Los paquetes están dañados durante el transporte
27. Exams discovered in test booklets late at PEM 27. Exámenes descubierto en los cuadernillos tarde en la PEM
29. Answer sheet packages go missing before receipt 29. Hoja de respuestas los paquetes que faltan antes de ir recepción
30. Answer sheets destroyed with shipping materials 30. Respuesta hojas destruidas con el envío de materiales
31. Answer sheets or boxes misplaced at PEM 31. Respuesta hojas o cajas fuera de lugar en PEM
42. Sheet scanned once only (unscannable on other attempt) 42. Hoja de escaneado una sola vez (en otros unscannable intento)
14. Student enters wrong valid/ cross admin registration number 14. Estudiantil entra mal válido cruzada / admin número de registro
33. Scanner reads marks in wrong order due to answer sheets flipped over 33. Escáner lee las marcas en orden equivocado debido a la vuelta las hojas de respuesta más
34. Pages from answer sheets in wrong order after slitting 34. Páginas de hojas de respuesta en orden equivocado después de corte
35. Pages from answer sheet go missing at scanner 35. Páginas de hoja de respuestas que faltan van a escáner
36. Pages stuck together going through scanner 36. Páginas adheridos entre sí pasando por el escáner
45. Erroneous manual key entry for unscannables 45. Errónea manual de entrada clave para unscannables
46. Editor makes test/form code error on unscannables 46. Editor hace prueba / form código de error en unscannables
50. Data feed generation gets corrupted 50. Alimentar la generación de datos está dañado