I got 51 problems but a #2 pencil ain’t one. I got 51 problemas, mas um lápis n º 2 não é um.

Booz Allen Hamilton has a funny name but they’re all about serious business. Booz Allen Hamilton tem um nome engraçado mas eles são sérios sobre todos os negócios. The “global strategy and technology A "estratégia global e tecnologia consulting firm consultar empresa ” was contracted by the College Board in the fallout of the SAT scoring mistakes from last October. "Foi contratado pelo College Board, no fallout da pontuação SAT erros de Outubro último. They audited the testing process and made a report, which was hidden away. Eles auditadas a realização dos testes e fez um relatório, que foi escondida de distância. At least until Senator LaValle used subpoena powers and Pelo menos até o Senador Lavalle utilizados poderes e intimação demanded the report exigiram o relatório be made public–they were required to do so by New York’s “truth in testing” state laws but the College Board stated that they were “exempt from state law.” I love this choice quote: “Once again The College Board’s approach to problems is to shroud them in secrecy,” Senator LaValle said in a July 13 news release. ser tornada pública-que eram obrigados a fazê-lo em Nova York's "na verdade testes" leis estaduais, mas o Colégio Câmara afirmou que eles estavam "isentos do Estado de Direito." Eu amo esta escolha citar: "Mais uma vez The College Board" s é a abordagem de problemas envolve-las em sigilo ", afirmou o Senador Lavalle, em 13 de julho uma notícia libertação. Their attitude gives rise to greater questions as to their true purpose .” What do you mean, Senator LaValle? "A sua atitude dá origem a maiores dúvidas quanto à sua verdadeira finalidade." O que você quer dizer, o senador Lavalle? Is there still a problem? Existe ainda um problema?

“The board’s lack of accountability in this matter goes to the heart of the arrogance that exists when an organization basically holds a monopoly in a certain market,” LaValle said in a statement following the release of the report. "O conselho de administração da falta de responsabilidade nesta matéria vai para o coração da arrogância que existe quando uma organização basicamente detém um monopólio no mercado de um certo", disse Lavalle, em uma declaração na sequência da introdução do relatório. “This report still does not answer why such a large number of testing errors occurred on the October 2005 SAT. "O presente relatório continua a não responder por isso que um número tão elevado de erros ocorridos em ensaios de Outubro de 2005 SAT. In addition, the board has not provided an explanation of why it took several months to inform over 4,000 students of inaccurate test scores.” Além disso, o conselho de administração não tenha fornecido uma explicação da razão que levou vários meses para informar mais de 4000 estudantes de inexactos Os resultados dos testes. "

Additionally, The National Center for Fair and Open Testing responded to the report by releasing a list of questions that the study did not answer. Além disso, o Centro Nacional de justo e aberto Testes respondeu ao relatório da liberação de uma lista de perguntas que o estudo não respondeu. Among them: What was the root cause of the problem? Entre eles: Qual foi a raiz do problema? When did The College Board receive the first request for hand scoring of the October SAT? Quando fez o Colégio Câmara receber o primeiro pedido de mão de outubro de pontuação SAT? How many weeks did it take for the board to respond to that request? Quantas semanas fiz isso para ter a bordo para responder a esse pedido? When did The College Board first discover a broad problem? Quando fez a primeira College Board descobrir um vasto problema? Why was there a delay between that time and when test takers and others were informed of the problem? Por que razão há um atraso entre o tempo e quando takers teste e outros foram informados do problema?

[thanks, [agradecimentos, Daily Stanford Diário Stanford ]

Now, I went into that report (it’sa powerpoint presentation) and picked out some of the most fun parts of it. Agora, eu fui em que o relatório (é um PowerPoint Presentation) e captou-se alguns dos mais divertidos partes do mesmo. Actually, it’s more a case of me fearmongering by promoting potentially frightening sections of a report which just goes to show how flimsy the SAT is as part of a situation which just demonstrates how much that not-for-profit status is bullshit. Na realidade, é mais um caso de me fearmongering a promoção potencialmente assustadora secções de um relatório que vai apenas para mostrar como o SAT é contestável, como parte de uma situação que só demonstra o quanto que sem fins lucrativos estatuto é bullshit.


The report was released July 26 and has since been buried from the public as best the College Board can manage. O relatório foi liberada em 26 de julho e desde então foi enterrado junto do público como o melhor colégio Câmara pode gerenciar. It’s available on their website Ela está disponível em seu site here aqui ; I’m not making this stuff up. ; Eu não estou fazendo este stuff up. Booz Allen Hamilton placed each of the 51 identified error-risk-locations into one of these categories: Booz Allen Hamilton colocados cada um dos erros identificados 51 locais de risco-em uma destas categorias:

A. Not at all mitigated or detected A. Nem um pouco atenuada ou detectadas
B. Partial mitigation or detection of risk B. atenuação parcial ou detecção de risco
C. Substantial mitigation or detection of risk C. substancial atenuação ou detecção de risco
D. Completely mitigated or detected D. Completamente mitigado ou detectadas

There were some really cute flowcharts and diagrams, too–even little pie charts of “overall rating” for the likelihood a particular flaw in the testing chain could fail. Houve algumas realmente cute fluxogramas e diagramas, muito pouco-até mesmo gráficos de "rating global" para a probabilidade de uma falha em particular o ensaio da cadeia poderia falhar. There were several charts–one titled “Prioritization of Risk” (on slide 54 for those reading along) shows the killzone. Houve vários gráficos de uma chamada "priorização de Risco" (54 a deslizar para aqueles leitura ao longo) mostra o killzone. These 4 were both of “higher impact” (ie “affects large part or whole answer sheet”) and “high likelihood,” remember the color scheme: 4 Estas foram as duas de "maior impacto" (ou seja, "afeta grande parte ou todo folha de resposta") e "elevada probabilidade", lembre-se do esquema de cores:

7. Scanner reading variation due to erasure 7. Scanner leitura variação devido ao apagamento
3. 3. Scanner variation on marginal marks Scanner a variação marginal marcas
4. Scanner reading variation due to alternative writing implement Scanner leitura variação devido a alternativa escrita implementar
26. Answer sheets left in test books Responda em folhas esquerda teste livros

Don’t worry, they provide partial solutions on slide 56. Não se preocupe, eles fornecem soluções parciais em slide 56. For instance, pesky #7 can be solved by… Por exemplo, pesky # 7 podem ser resolvidos por…

  1. Continue double scan Continuar dupla varredura
  2. Supply pencils/erasers at test centers Abastecimento lápis / borrachas em teste centers

Wait, that’s it? Espere aí, é isso? That’s how they solve it? Esse é o modo como resolvê-lo? What about the blank spaces under “medium-term improvements” and “major future changes” or “follow-on analysis”? E quanto aos espaços em branco no âmbito de "médio prazo melhorias" e "grandes mudanças futuras" ou "de acompanhamento, análise"? Why is there even the “follow-on analysis” table if there is nothing in it on that entire slide? Porque é que existe ainda o "follow-a análise" mesa, se não há nada nela toda slide em que? Okay, whatever. Ok, qualquer que seja. How do we solve “ Scanner reading variation due to alternative writing implement ” ? Como é que vamos resolver "Scanner leitura variação devido a implementar alternativas escrito"? We… supply pencils and erasers at test centers. Nós… abastecimento lápis e borrachas em teste centers. Oh. Ah. And that finishes it? E que termina-lo? Oh, we can “Investigate software upgrades for consistent readings (color scanning, wavelength, etc.)” also? Ah, nós podemos "Investigue upgrades de software para leituras consistentes (varredura cor, comprimento de onda, etc)" também? That’s great. Isso é ótimo. And then eventually have an online test? E, depois, têm eventualmente um teste on-line? That sounds stupid but I’ll take your word for it. Isso soa estúpido, mas eu vou tomar a palavra para ele. Hmm, those problems sound easier to fix than some of the other ones, though. Hmm, esses problemas som mais fáceis de fixar do que alguns dos outros, porém. Error 51, Errors in deleting items from database –that sounds nasty. Erro 51, excluindo itens de Erros na base de dados-que soa mal. You would have to ” Ensure DB backup and rollback procedures in place” to solve that one. Você teria que "Assegurar DB backup e rollback em vigor procedimentos" para calcular o valor que um.

Oh well, I’ll trust that stuff. Oh bem, eu confio que stuff. I’ll just skip to the appendix and see if there is anything else of interest…Oh, look, here are some of those things that were of lower likelihood! Eu vou apenas saltar para o apêndice e ver se há mais alguma coisa de interesse… Oh, olha, aqui estão algumas dessas coisas que eram de menor probabilidade! These can’t be very important. Estas não podem ser muito importantes. Hang on, they could have “higher” impact? Hang sobre, eles poderiam ter "mais elevado" impacto? Okay, what happens if there is “Scanner variation due to smeared pencil marks.” That can’t be that bad. Ok, o que acontece se houver um "scanner variação devido a smeared lápis marcas." Isso não pode ser assim tão mau. Smeared pencil marks due to manual handling–I can see that happening, I guess. Smeared lápis marcas devido à movimentação manual-Vejo que acontecer, eu acho. And what’s the result? Inaccurate scores ? E qual é o resultado? Impreciso pontuação? Say it ain’t so! Dizer que não é assim! Well, at least there are now protections for that. Bom, pelo menos, existem hoje proteções por isso. Wait, there are “none” now or in the foreseeable future? Espere, há "nenhum" agora ou no futuro previsível? Dang. Too bad there are several other ways for that to happen, too–not least among them a PEM database corruption which results in data storage failure and then… inaccurate scores. Too bad existem várias outras formas para que isso aconteça, também não menos importante-entre eles um banco de dados PEM corrupção que resulta em fracasso e, em seguida, o armazenamento de dados incorrectos… pontuação. And which again has “none” ways against happening right now. E, novamente, que tem "nenhuma" contra as formas acontecer neste momento. Glad to see you have it all under control, College Board, but I’m still seeing a little too much red . Satisfeito por ver que você tem todos sob controle, Colégio Câmara, mas ainda estou vendo um pouco demasiado vermelho. Not you, though–all you see is green, green, cash. Não é você, apesar de tudo o que você vê é verde, verde, em dinheiro. Good thing you still manage to keep the best interests of the students your balance books in mind. Ainda bem que você continua a manter a gerir da melhor forma os interesses dos estudantes seu saldo livros em mente.

Finish with more from the Daily Stanford article… Acabe com as mais de Stanford Daily artigo…

In the long run, the report makes the recommendation of offering the SAT online as a way to minimize scoring problems due to mechanical malfunctions, though the prospect of an online SAT raises many security questions. A longo prazo, o relatório faz a recomendação de oferecer o SAT on-line, como forma de minimizar pontuação devido a problemas mecânicos avarias, embora a perspectiva de uma linha SAT levanta muitas questões de segurança. Certainly, the amount of weight given to SAT scores in college admissions necessitates that the process be carefully scrutinized for error. Certamente, a quantidade de peso dado a pontuação SAT admissões na faculdade exige que o processo ser cuidadosamente analisadas para erro.

Although The College Board insists that the mistakes that led to last fall’s incorrect exams will be fixed, and the problem was an isolated incident, the organization’s reputation as a supposedly non-profit, fair institution has been damaged by the mistake and its initial refusal to cooperate with the Senate Higher Education Committee. Apesar O Colégio Câmara insiste em que os erros que levaram à queda da última incorreto exames serão fixadas, bem como o problema foi um incidente isolado, a reputação da organização como um supostamente sem fins lucrativos, justo instituição tem sido prejudicada pelo facto de o erro e a sua recusa inicial de cooperar com a Comissão de Educação Superior do Senado. Moreover, this gives rise to the question of whether the SAT should continue to be used in college admissions. Além disso, esta dá origem à questão de saber se o SAT deve continuar a ser utilizados na faculdade admissões.

Wooooo.

Oh, for dessert: here are all 51 problem areas: Ah, para a sobremesa: aqui estão todas as 51 áreas problemáticas:

A. Not at all mitigated or detected A. Nem um pouco atenuada ou detectadas
B. Partial mitigation or detection of risk B. atenuação parcial ou detecção de risco
C. Substantial mitigation or detection of risk C. substancial atenuação ou detecção de risco
D. Completely mitigated or detected D. Completamente mitigado ou detectadas
6. Scanner wrongly picks up persistent debris as a mark 6. Scanner erradamente pega persistente destroços como uma marca
7. Scanner reading variation due to erasure 7. Scanner leitura variação devido ao apagamento
8. Scanner reading variation on hesitation marks 8. Scanner leitura variação em hesitação marcas
17. Answer sheet wrongly force matched to student 17. Resposta folha erradamente vigor correspondeu a estudante
22. Scanner misreads marks due to scan track corruption 22. Scanner misreads marcas devido ao scan faixa corrupção
25. Packages tampered with before shipping 25. Pacotes de modificações indevidas antes de navegação
32. Scanner variation due to smeared pencil marks 32. Scanner variação devido a smeared lápis marcas
47. Key entry mistakenly mixes pages from different answer sheets 47. Key entrada engano combinações de diferentes páginas folhas de resposta
49. PEM database gets corrupted 49. PEM banco de dados fica danificado
51. Errors in deleting items from database 51. Erros em apagar itens da base de dados
1. Bubble alignment error due to paper manufacturing 1. Bubble erro devido ao alinhamento papel fabricação
2. Paper alignment error due to paper material 2. Livro alinhamento devido a erro material papel
3. Scanner variation on marginal marks 3. Scanner variação marginal sobre marcas
4. Scanner reading variation due to alternative writing implement 4. Scanner leitura variação devido a alternativa escrita implementar
5. Scanner wrongly picks up loose debris as a mark 5. Scanner erradamente pega Os detritos como uma marca
9. Inconsistency in scanning of double grids 9. Inconsistência na digitalização da dupla grades
10. Scanner picks up unintended marks from back side of paper 10. Scanner pega involuntária de marcas verso de papel
11. Scanner picks up unintended marks due to rubbing adjacent pages 11. Scanner pega involuntária marcas devido à fricção páginas adjacentes
12. Editor assigns incorrect answer key due to invalid/missing test code/ form code 12. Editor atribui resposta incorrecta devido a tecla inválido / faltando testar código / o código do formulário
13. Incorrect answer key used due to student entering wrong valid test/form code 13. Incorreto resposta chave utilizada devido a estudante entrar errado teste válido / o código do formulário
16. Answer sheet wrongly manually matched to student by PEM 16. Resposta folha erradamente manualmente correspondeu a estudante pela PEM
19. Student gets incomplete score using composite answer sheet 19. Estudante recebe resposta incompleta pontuação usando composite sheet
21. Scanner reading variation due to partially wet sheets 21. Scanner leitura variação devido às folhas parcialmente molhada
26. Answer sheets left in test books 26. Responda em folhas esquerda teste livros
28. Answer sheets go missing before receipt 28. Resposta folhas antes de ir faltando recepção
37. Scanner variation on “good” marks due to unforeseen paper distortion 37. Scanner variação em "boas" marcas devido a imprevistos papel distorção
38. 2 nd scanner out of tolerance 38. 2 ª scanner para fora da tolerância
39. 1 st scanner out of tolerance 39. 1 de scanner para fora da tolerância
40. Both scanners out of tolerance 40. Ambos os scanners para fora da tolerância
41. Unforeseen events cause scanner variation 41. Acontecimentos imprevistos provocar variação scanner
43. Scanner software bugs due to code changes 43. Scanner bugs de software devido a mudanças código
44. Wrong answer sheet pulled from batch for editing 44. Wrong resposta folha puxou para a edição de lote
48. Item level edit mistake 48. Número nível editar erro
15. Answer sheet wrongly automatched to student 15. Resposta folha erradamente automatched para estudantes
18. Scanner reading variation due to humidity/ moisture 18. Scanner leitura variação devido à humidade / umidade
20. Typed essay not correctly matched to student 20. Digitado corretamente redação não correspondeu ao estudante
23. Packages are tampered with during shipping 23. Os pacotes são adulterados durante a navegação
24. Packages are damaged during shipping 24. Os pacotes são danificados durante o transporte
27. Exams discovered in test booklets late at PEM 27. Exams descoberto em teste folhetos tarde da PEM
29. Answer sheet packages go missing before receipt 29. Resposta folha de pacotes em falta antes de ir recepção
30. Answer sheets destroyed with shipping materials 30. Resposta folhas destruídas com materiais transporte marítimo
31. Answer sheets or boxes misplaced at PEM 31. Responda em folhas ou caixas deslocada PEM
42. Sheet scanned once only (unscannable on other attempt) 42. Sheet digitalizados uma única vez (a outra tentativa unscannable)
14. Student enters wrong valid/ cross admin registration number 14. Estudante entrar errado válido / admin cruzada número de registo
33. Scanner reads marks in wrong order due to answer sheets flipped over 33. Scanner lê marcas em modo errado devido a responder a mais de folhas flipped
34. Pages from answer sheets in wrong order after slitting 34. Páginas de folhas de resposta no sentido errado após corte longitudinal
35. Pages from answer sheet go missing at scanner 35. Pages folha de resposta se percam em scanner
36. Pages stuck together going through scanner 36. Pages grudadas passar pelo scanner
45. Erroneous manual key entry for unscannables 45. Erros de manual chave para a entrada unscannables
46. Editor makes test/form code error on unscannables 46. Editor faz ensaio / erro sobre o código do formulário unscannables
50. Data feed generation gets corrupted 50. Dados feed geração fica danificado